기술적 분석에서 AI 전략으로:
다기간 추세 신호의 실증 유효성 검증
다기간 이동평균 추세 필터와 CNN 기반 차트 예측 모델의 한국 주식시장 백테스트 성과와 특성을 비교 분석합니다.
기술적 분석의 본질적 과제는 과거 주가와 거래량 정보가 미래 수익률을 예측하는 힘을 지니는지 검증하는 일입니다. 과거의 가격 패턴, 이동평균선, 모멘텀, 거래량 지표가 시장의 유용한 신호인지, 아니면 이미 일어난 가격 변동에 사후적으로 붙인 설명인지를 두고 논쟁은 오랫동안 이어져 왔습니다.
최근 인공지능(AI) 기반 금융 연구도 같은 문제의식을 공유하면서 방법론적 도구를 고도화하고 있습니다. 사람의 관찰에 의존하던 차트 해석은 Lo, Mamaysky, and Wang (2000)의 연구를 계기로 비파라메트릭 정량 알고리즘과 통계적 검정 체계로 전환되었습니다. Zhu and Zhou (2009)는 이동평균 신호를 단순한 매매 타점이 아니라 불확실성 아래에서 작동하는 정보 필터로 재해석했고, Han, Zhou, and Zhu (2016)는 여러 투자 기간(horizon)의 추세 정보를 결합한 모형을 제안했습니다. 나아가 Jiang, Kelly, and Xiu (2023)는 시가·고가·저가·종가(OHLC)와 거래량 데이터를 이미지로 바꾸어 합성곱 신경망(CNN)이 시각적 패턴을 직접 학습하도록 하는 모형을 정립했습니다.
복잡한 AI 알고리즘이 도입되고 있지만 실전 전략의 출발점은 분명합니다. 시장에서 가장 강건하게 관찰되는 현상은 추세(trend)이고, 이를 직관적으로 요약하는 대표적 도구가 다기간 이동평균입니다. 이 연구 노트에서는 다기간 이동평균 추세 필터와 복잡한 AI 차트 예측 모델(Jiang et al., 2023; Gupta et al.)의 성과를 한국 주식시장 백테스트로 여러 각도에서 비교·분석합니다.
I. 차트 패턴의 통계적 유효성 검증
전통적 기술적 분석은 헤드앤숄더, 더블탑/더블바텀, 삼각형처럼 차트에 반복해서 나타나는 패턴을 중요하게 다룹니다. 그러나 이런 패턴은 주관적 해석에 의존하기 때문에 정형화된 수학적 정의가 없었고, 학술적으로 검증하는 데에도 한계가 있었습니다.
Lo, Mamaysky, and Wang (2000)은 알고리즘으로 차트 패턴을 정량적으로 정의하고, 패턴이 나타난 뒤의 수익률 분포가 무작위 분포와 통계적으로 유의미하게 다른지 검증했습니다. 그 결과 일부 차트 패턴은 미래 수익률 분포에 관한 통계적 정보를 담고 있는 것으로 확인되었습니다. 다만 정보가 있다고 해서 거래비용(transaction costs), 세금, 슬리피지(slippage), 시장충격(market impact)을 차감한 뒤의 실질적 초과수익으로 곧바로 이어지는 것은 아닙니다.
이 연구의 학술적 의의는 주관적인 기술적 분석을 검증 가능한 통계 분석의 영역으로 옮겨 놓았다는 데 있습니다. 이 전환은 이후 머신러닝·딥러닝 기반 기술적 분석 연구의 타당성을 뒷받침하는 토대가 되었습니다.
II. 이동평균의 정보 필터 및 노이즈 완화 기능
이동평균은 대표적인 기술적 분석 도구로, 20일, 60일, 120일, 200일 지표가 널리 쓰입니다. 일별 주가 시계열에는 단기 수급, 뉴스, 심리적 변동 등에서 비롯된 고주파 노이즈가 많이 섞여 있습니다. 이동평균은 이런 무작위 변동을 평활화(smoothing)해 구조적 추세를 뽑아내는 일종의 정보 필터(information filter) 역할을 합니다.
Zhu and Zhou (2009)는 이동평균을 완벽한 예측 도구가 아니라 불확실한 투자 환경에서 정보를 추출하는 메커니즘으로 정의합니다. 파라미터 불확실성이 높은 시장에서는 지나치게 복잡한 최적화 모형보다 이동평균에 기반한 단순한 규칙이 표본 외(out-of-sample) 성과와 강건성 면에서 더 우수할 수 있습니다.
또한 이동평균 신호는 전량 매수·전량 매도(all-in/all-out) 방식 외에도, 추세 강도에 따라 포트폴리오의 위험자산 비중을 단계적으로 조절하는 수단으로 확장할 수 있습니다.
III. 다기간 추세 정보의 상호보완적 결합
단일 이동평균(예: 20일선)은 특정 기간의 정보만 담습니다. 20일 이동평균은 단기 수급 흐름을 반영하는 반면, 200일 이동평균은 장기적인 구조적 방향을 보여 줍니다. 단기적으로는 반전(reversal) 특성이, 중기적으로는 모멘텀(momentum) 특성이 우세할 수 있습니다.
Han, Zhou, and Zhu (2016)는 여러 투자 기간(horizon)에 걸친 가격 추세를 통합해 하나의 추세 요인(trend factor)을 구성하는 방법을 제안했습니다. 다기간 이동평균 신호를 결합하면 단일 모멘텀 지표보다 더 풍부한 시계열 정보를 활용할 수 있습니다.
이를 정량적인 추세 점수(trend score) 체계로 정리하면 다음과 같습니다.
Table 1. 추세 점수 산정 체계
| 항목 | 판정 조건 | 부여 점수 |
|---|---|---|
| 단기 추세 | 현재 가격 > 20일 이동평균 | +1 |
| 중기 추세 | 현재 가격 > 60일 이동평균 | +1 |
| 장기 추세 1 | 현재 가격 > 120일 이동평균 | +1 |
| 장기 추세 2 | 현재 가격 > 200일 이동평균 | +1 |
거래량 지표는 보조 필터로 추가 적용합니다. 최근 20일 평균 거래량이 120일 평균 거래량보다 적으면 수급의 뒷받침이 없는 것으로 보고 최종 점수에서 1점을 뺍니다.
Table 2. 최종 점수별 포트폴리오 대응 규칙
| 최종 점수 | 추세 상태 | 포트폴리오 집행 판단 |
|---|---|---|
| 4 | 강한 상승 추세 | 편입 및 편입 유지 (적극) |
| 3 | 양호한 상승 추세 | 편입 및 편입 유지 |
| 2 | 중립 국면 | 신규 편입 보류 및 비중 축소 |
| 1 | 약세 전환 | 포트폴리오 제외 |
| 0 | 강한 약세 | 포트폴리오 제외 |
IV. 다기간 이동평균 추세 전략 설계
전략의 세부 매개변수와 운용 규칙은 다음과 같습니다.
Table 3. 다기간 이동평균 추세 전략 운용 명세
| 구성 요소 | 운용 규칙 |
|---|---|
| 투자 대상 | 대표 ETF 또는 유동성 상위 대형주 포트폴리오 |
| 리밸런싱 주기 | 월 1회 (매월 최종 거래일 종가 기준) |
| 가격 신호 산출 | 20일, 60일, 120일, 200일 이동평균 산출 |
| 추세 점수 산정 | 가격 조건 충족 개수에 따라 0~4점 산정 |
| 거래량 필터 | 20일 평균 거래량 < 120일 평균 거래량 시 -1점 적용 |
| 편입 임계치 | 최종 점수 3점 이상 종목 편입 |
| 가중치 방식 | 편입 종목 간 동일가중(Equal Weighting) |
| 시장 필터링 | 벤치마크 지수(KOSPI/SPY) 점수 저하시 총 위험자산 비중 축소 |
시장 필터(market filter)는 시장 전체가 하락하는 국면에서 포트폴리오 손실을 방어하기 위한 장치입니다.
Table 4. 시장 필터 기반 위험자산 노출 비율
| 시장 대표 지수 점수 | 총 위험자산 비중 |
|---|---|
| 3~4점 | 100% |
| 2점 | 50% |
| 0~1점 | 0% (현금/단기채 전액 전환) |
V. 자산군 및 개별 주식 포트폴리오 적용 분석
이 전략은 글로벌 자산배분 ETF 그룹(SPY, QQQ, EEM, TLT, GLD 등)과 한국 상위 주식 포트폴리오에 다양하게 적용할 수 있습니다. 주식 포트폴리오를 구성할 때는 생존편향(survivorship bias)과 시점편향(look-ahead bias)을 막기 위해 매월 말 시점(point-in-time)을 기준으로 시가총액 상위 종목군을 다시 구성해야 합니다.
Table 5. 적용 구조별 특성 비교
| 유형 | 장점 | 실증 및 구현 유의사항 |
|---|---|---|
| 자산배분 ETF 구조 | 자산군 간 추세 결합에 적합, 거래비용 낮음 | 해외 자산의 경우 환율 변동 위험 관리 필요 |
| 시가총액 상위 주권 구조 | 높은 유동성, 국내 투자자 직관성 부합 | point-in-time 시가총액 데이터 구축 필수 |
| 단일 벤치마크 주권(삼성전자) | 개별 대형주 위험 관리 기준선 제공 | 단일 종목 특유의 고유위험(idiosyncratic risk) 존재 |
VI. AI 차트 예측 모델과의 백테스트 성과 비교
Jiang, Kelly, and Xiu (2023)의 CNN 차트 이미지 학습 모델과 Gupta et al. 모형에서 추출한 예측 점수(`jiang_PRED`, `gupta_PRED`)를 기반으로 한 전략의 표본 외(Out-of-Sample) 성과를 검증했습니다. 두 점수는 5거래일 후 주가가 상승할 확률을 나타냅니다.
실험은 매일 상위 10개 종목을 동일가중으로 매수하는 Long-only 전략으로 설정했습니다. 거래비용을 0으로 가정하고 벤치마크와 비교한 결과는 다음과 같습니다.
Table 6. 표본 외 성과 비교 (2021-01-06 ~ 2026-05-28)
| 전략 | 구간 | 누적수익률 | 연환산수익률 | 변동성 | Sharpe | MDD | 평균 turnover |
|---|---|---|---|---|---|---|---|
| Jiang top10 | 2021-01-06 to 2026-05-28 | −15.0% | −3.0% | 31.5% | −0.10 | −52.9% | 148.7% |
| Gupta top10 | 2021-01-06 to 2026-05-28 | 19.0% | 3.4% | 25.4% | 0.13 | −33.4% | 121.8% |
| Jiang+Gupta top10 | 2021-01-06 to 2026-05-28 | 10.1% | 1.9% | 28.5% | 0.07 | −46.9% | 133.8% |
| KOSPI buy-and-hold | 2021-01-07 to 2026-05-28 | 175.8% | 21.4% | 22.9% | 0.93 | −34.8% | n/a |
| 삼성전자 buy-and-hold | 2021-01-07 to 2026-05-28 | 264.4% | 28.0% | 32.8% | 0.85 | −45.2% | n/a |
AI raw score를 기반으로 매일 Top 10을 리밸런싱하는 전략은 120~150% 수준의 지나치게 높은 회전율(turnover)을 기록했습니다. 거래비용을 반영하지 않았는데도 시장 지수나 삼성전자 단순 보유 전략보다 성과가 저조했습니다.
2025년 이후 국면만 따로 평가한 결과는 다음과 같습니다.
Table 7. 최근 국면 성과 비교 (2025-01-06 ~ 2026-05-28)
| 전략 | 구간 | 누적수익률 | 연환산수익률 | Sharpe | MDD | 평균 turnover |
|---|---|---|---|---|---|---|
| Jiang top10 | 2025-01-06 to 2026-05-28 | 36.4% | 26.1% | 0.80 | −25.8% | 148.0% |
| Gupta top10 | 2025-01-06 to 2026-05-28 | 10.9% | 8.0% | 0.31 | −19.0% | 123.6% |
| Jiang+Gupta top10 | 2025-01-06 to 2026-05-28 | 40.6% | 28.9% | 0.96 | −20.4% | 135.1% |
| KOSPI buy-and-hold | 2025-01-07 to 2026-05-28 | 228.9% | 143.6% | 4.27 | −19.9% | n/a |
| 삼성전자 buy-and-hold | 2025-01-07 to 2026-05-28 | 435.8% | 250.8% | 5.15 | −23.3% | n/a |
이 실증 결과는 AI 차트 예측 모형의 예측치에 담긴 경제적 정보와, 이를 실행 가능한 포트폴리오 구성 규칙으로 바꾸는 메커니즘 사이에 괴리가 있음을 보여 줍니다. 횡단면 점수에서 단순히 상위 종목을 뽑아 매일 매매하는 방식은 과도한 회전율과 슬리피지를 유발해 전략의 실질적인 효율성을 떨어뜨립니다.
VII. 베이스라인 비교 체계 구성
AI 전략의 성과가 떨어지는 원인을 밝히려면 구조가 더 단순한 다기간 추세 전략과 체계적으로 비교·검증해야 합니다.
Table 8. 전략 비교 체계
| 비교 대상 | 설정 목적 및 학술적 의미 |
|---|---|
| KOSPI buy-and-hold | 시장 전반의 장기 보유 벤치마크 기준선 |
| 삼성전자 buy-and-hold | 국내 시장 대표 대형주 단순 보유 기준선 |
| 시가총액 상위 5개 동일가중 | 대형주 분산 투자 베이스라인 |
| 다기간 이동평균 추세 전략 | 추세 필터링에 의한 방어 및 회전율 감소 효과 검증 |
| Jiang/Gupta AI top10 | AI 단기 예측 점수 직접 매매 전략과의 비교 |
Table 9. 성과 평가 지표 및 검증 목적
| 평가 지표 | 검증 목적 |
|---|---|
| 누적수익률 (Cumulative Return) | 장기 절대 자산 증분 측정 |
| 연환산수익률 (CAGR) | 상이한 평가 기간 간 표준화된 수익성 비교 |
| 변동성 (Annualized Volatility) | 수익률 시계열의 리스크 및 흔들림 정도 파악 |
| Sharpe Ratio | 단위 위험당 초과 수익성 평가 |
| MDD (Maximum Drawdown) | 구간 내 고점 대비 최대 하락폭 및 하방 위험 평가 |
| 회전율 (Average Turnover) | 거래비용 감안 시 실제 실행 가능성 검증 |
VIII. 결론 및 향후 과제
기술적 분석은 시각적인 차트 패턴 판독에서 출발해 파라메트릭·비파라메트릭 통계 검정, 머신러닝 팩터 조합, 딥러닝 차트 이미지 인식과 강화학습 시스템으로 발전해 왔습니다.
그러나 기술적 분석이 처음부터 안고 있던 근본적인 물음—과거 가격 정보가 미래에도 유효한지, 거래비용을 감안해도 초과수익이 나는지, 백테스트 결과가 실증적으로 강건한지, 고도화된 AI 모형과 단순한 이동평균 규칙 중 어느 쪽이 우월한지—은 여전히 유효합니다.
다기간 이동평균 추세 전략은 이러한 물음에 답하기 위한 가장 깔끔한 실증 실험입니다. 여러 이동평균선이 정렬된 자산에만 위험 노출을 유지하고 시장 하락기에는 비중을 줄이는 이 단순한 규칙은, AI 차트 예측 모델의 복잡한 신호를 실제 포트폴리오로 옮길 때 반드시 필요한 벤치마크 역할을 합니다.
References
Lo, A. W., Mamaysky, H., & Wang, J. (2000). Foundations of Technical Analysis: Computational Algorithms, Statistical Inference, and Empirical Implementation. The Journal of Finance, 55(4), 1705-1765. https://doi.org/10.1111/0022-1082.00265
Zhu, Y., & Zhou, G. (2009). Technical analysis: An asset allocation perspective on the use of moving averages. Journal of Financial Economics, 92, 519-544. https://doi.org/10.1016/j.jfineco.2008.07.002
Han, Y., Zhou, G., & Zhu, Y. (2016). A trend factor: Any economic gains from using information over investment horizons? Journal of Financial Economics, 122(2), 352-375. https://doi.org/10.1016/j.jfineco.2016.01.029
Jiang, J., Kelly, B., & Xiu, D. (2023). (Re-)Imag(in)ing Price Trends. The Journal of Finance, 78(6), 3193-3249. https://doi.org/10.1111/jofi.13268