기술적 분석에서 AI 전략으로:
다기간 추세 신호의 실증 유효성 검증
다기간 이동평균 추세 필터와 CNN 기반 차트 예측 모델의 한국 주권 시장 백테스트 성과 및 성격 비교 분석.
기술적 분석의 본질적 과제는 과거 주가 및 거래량 정보가 미래 수익률에 대한 예측력을 지니는지 검증하는 것이다. 과거의 가격 패턴, 이동평균선, 모멘텀, 거래량 지표가 시장의 유용한 신호인가, 아니면 사후적인 가격 변동에 부여된 설명인가에 대한 논쟁은 오랫동안 지속되어 왔다.
최근의 인공지능(AI) 기반 금융 연구 역시 동일한 문제의식을 공유하며 방법론적 도구를 고도화하고 있다. 과거 인적 관찰에 의존하던 차트 해석은 Lo, Mamaysky, and Wang (2000)의 연구를 통해 비파라메트릭 정량 알고리즘 및 통계적 검정 체계로 전환되었다. Zhu and Zhou (2009)는 이동평균 신호를 단순 매매 타점이 아닌 불확실성 하에서의 정보 필터로 재해석하였으며, Han, Zhou, and Zhu (2016)는 복수 투자 시계열(horizon)의 추세 정보를 결합한 모형을 제안하였다. 나아가 Jiang, Kelly, and Xiu (2023)는 시가·고가·저가·종가(OHLC) 및 거래량 데이터를 이미지화하여 합성곱 신경망(CNN)을 통해 시각적 패턴을 직접 학습하는 모형을 정립하였다.
복잡한 AI 알고리즘의 도입에도 불구하고 실전 전략의 기본적 출발점은 명확하다. 시장에서 가장 강건하게 관찰되는 현상은 추세(trend)이며, 이를 직관적으로 요약하는 대표적 도구는 다기간 이동평균이다. 본 연구 노트에서는 다기간 이동평균 추세 필터와 복잡한 AI 차트 예측 모델(Jiang et al., 2023; Gupta et al.)의 성과를 한국 주권 시장 백테스트를 통해 다각도로 비교·분석한다.
I. 차트 패턴의 통계적 유효성 검증
전통적 기술적 분석은 헤드앤숄더, 더블탑/더블바텀, 삼각형 등 차트상의 재현 패턴을 중요하게 다룬다. 그러나 이러한 패턴은 주관적 해석에 의존하여 패턴의 정형화된 수학적 정의가 부재하고 학술적 검증에 한계가 존재하였다.
Lo, Mamaysky, and Wang (2000)은 알고리즘 기반으로 차트 패턴을 정량 정의하고, 패턴 출현 후 수익률 분포가 무작위 분포와 통계적으로 유의미하게 다른가를 검증하였다. 실증 결과 일부 차트 패턴은 미래 수익률 분포에 관한 통계적 정보를 포함함이 확인되었다. 다만 정보성의 존재가 곧바로 거래비용(transaction costs), 세금, 슬리피지(slippage), 시장충격(market impact)을 차감한 후의 실질적 초과수익으로 이어지는 것은 아니다.
해당 연구의 학술적 의의는 주관적 기술적 분석을 검증 가능한 통계적 분석의 영역으로 전환시켰다는 점에 있다. 이러한 전환은 이후 머신러닝 및 딥러닝 기반 기술적 분석 연구의 타당성을 뒷받침하는 기반이 되었다.
II. 이동평균의 정보 필터 및 노이즈 완화 기능
이동평균은 대표적인 기술적 분석 도구로서 20일, 60일, 120일, 200일 지표가 널리 활용된다. 일별 주가 시계열에는 단기 수급, 뉴스, 심리적 변동 등에 따른 고주파 노이즈가 다량 포함된다. 이동평균은 이러한 무작위 변동을 평활화(smoothing)하여 구조적 추세를 추출하는 일종의 정보 필터(information filter) 역할을 수행한다.
Zhu and Zhou (2009)는 이동평균을 완벽한 예측 도구가 아닌 불확실한 투자 환경에서의 정보 추출 매커니즘으로 정의한다. 파라미터 불확실성이 높은 시장 구조 하에서는 과도하게 복잡한 최적화 모형보다 이동평균 기반의 단순 규칙이 표본 외(out-of-sample) 성과 및 강건성 관점에서 우수할 수 있다.
또한 이동평균 신호는 단진적 매수·매도(all-in/all-out) 방식 외에도 추세 강도에 따른 위험자산 포트폴리오 비중의 단계적 조절 수단으로 확장 적용될 수 있다.
III. 다기간 추세 정보의 상호보완적 결합
단일 이동평균(예: 20일선)은 특정 시계열 구간의 정보만을 담는다. 20일 이동평균은 단기 수급 흐름을 반영하는 반면, 200일 이동평균은 장기 구조적 방향성을 나타낸다. 단기 관점에서는 반전(reversal) 특성이, 중기 관점에서는 모멘텀(momentum) 특성이 지배적일 수 있다.
Han, Zhou, and Zhu (2016)는 복수의 투자 기간(horizon)에 걸친 가격 추세를 통합하여 단일 추세 요인(trend factor)을 구성하는 접근법을 제안하였다. 다기간 이동평균 신호의 결합은 단일 모멘텀 지표 대비 시계열 정보의 풍부성을 제고한다.
이를 정량적 추세 점수(trend score) 체계로 정형화하면 다음과 같다.
Table 1. 추세 점수 산정 체계
| 항목 | 판정 조건 | 부여 점수 |
|---|---|---|
| 단기 추세 | 현재 가격 > 20일 이동평균 | +1 |
| 중기 추세 | 현재 가격 > 60일 이동평균 | +1 |
| 장기 추세 1 | 현재 가격 > 120일 이동평균 | +1 |
| 장기 추세 2 | 현재 가격 > 200일 이동평균 | +1 |
거래량 지표는 보조 필터로 추가 적용된다. 최근 20일 평균 거래량이 120일 평균 거래량 미만일 경우 수급 동력이 수반되지 않은 것으로 판단하여 최종 점수를 1점 차감한다.
Table 2. 최종 점수별 포트폴리오 대응 규칙
| 최종 점수 | 추세 상태 | 포트폴리오 집행 판단 |
|---|---|---|
| 4 | 강한 상승 추세 | 편입 및 편입 유지 (적극) |
| 3 | 양호한 상승 추세 | 편입 및 편입 유지 |
| 2 | 중립 국면 | 신규 편입 보류 및 비중 축소 |
| 1 | 약세 전환 | 포트폴리오 제외 |
| 0 | 강한 약세 | 포트폴리오 제외 |
IV. 다기간 이동평균 추세 전략 설계
전략의 세부 매개변수 및 운용 규칙은 다음과 같다.
Table 3. 다기간 이동평균 추세 전략 운용 명세
| 구성 요소 | 운용 규칙 |
|---|---|
| 투자 대상 | 대표 ETF 또는 유동성 상위 대형주 포트폴리오 |
| 리밸런싱 주기 | 월 1회 (매월 최종 거래일 종가 기준) |
| 가격 신호 산출 | 20일, 60일, 120일, 200일 이동평균 산출 |
| 추세 점수 산정 | 가격 조건 충족 개수에 따라 0~4점 산정 |
| 거래량 필터 | 20일 평균 거래량 < 120일 평균 거래량 시 -1점 적용 |
| 편입 임계치 | 최종 점수 3점 이상 종목 편입 |
| 가중치 방식 | 편입 종목 간 동일가중(Equal Weighting) |
| 시장 필터링 | 벤치마크 지수(KOSPI/SPY) 점수 저하시 총 위험자산 비중 축소 |
시장 필터(market filter)는 시장 전체의 하락 국면에서 포트폴리오 손실을 방어하기 위한 장치다.
Table 4. 시장 필터 기반 위험자산 노출 비율
| 시장 대표 지수 점수 | 총 위험자산 비중 |
|---|---|
| 3~4점 | 100% |
| 2점 | 50% |
| 0~1점 | 0% (현금/단기채 전액 전환) |
V. 자산군 및 개별 주식 포트폴리오 적용 분석
본 전략은 글로벌 자산배분 ETF 그룹(SPY, QQQ, EEM, TLT, GLD 등) 및 한국 상위 주권 포트폴리오에 다양하게 적용될 수 있다. 주권 포트폴리오 구성 시 생존편향(survivorship bias) 및 시점편향(look-ahead bias)을 방지하기 위하여 매월 말 시점(point-in-time) 기준 시가총액 상위 종목군을 재구성해야 한다.
Table 5. 적용 구조별 특성 비교
| 유형 | 장점 | 실증 및 구현 유의사항 |
|---|---|---|
| 자산배분 ETF 구조 | 자산군 간 추세 결합에 적합, 거래비용 낮음 | 해외 자산의 경우 환율 변동 위험 관리 필요 |
| 시가총액 상위 주권 구조 | 높은 유동성, 국내 투자자 직관성 부합 | point-in-time 시가총액 데이터 구축 필수 |
| 단일 벤치마크 주권(삼성전자) | 개별 대형주 위험 관리 기준선 제공 | 단일 종목 특유의 고유위험(idiosyncratic risk) 존재 |
VI. AI 차트 예측 모델과의 백테스트 성과 비교
Jiang, Kelly, and Xiu (2023)의 CNN 차트 이미지 학습 모델과 Gupta et al. 모형에서 추출한 예측 점수(`jiang_PRED`, `gupta_PRED`) 기반 전략의 표본 외(Out-of-Sample) 성과를 검증하였다. 두 점수는 5거래일 후 상승 가능성 확률을 나타낸다.
실험 설정은 매일 상위 10개 종목을 매수하는 동일가중 Long-only 전략이며, 거래비용 0을 가정한 벤치마크 비교 결과는 다음과 같다.
Table 6. 표본 외 성과 비교 (2021-01-06 ~ 2026-05-28)
| 전략 | 구간 | 누적수익률 | 연환산수익률 | 변동성 | Sharpe | MDD | 평균 turnover |
|---|---|---|---|---|---|---|---|
| Jiang top10 | 2021-01-06 to 2026-05-28 | −15.0% | −3.0% | 31.5% | −0.10 | −52.9% | 148.7% |
| Gupta top10 | 2021-01-06 to 2026-05-28 | 19.0% | 3.4% | 25.4% | 0.13 | −33.4% | 121.8% |
| Jiang+Gupta top10 | 2021-01-06 to 2026-05-28 | 10.1% | 1.9% | 28.5% | 0.07 | −46.9% | 133.8% |
| KOSPI buy-and-hold | 2021-01-07 to 2026-05-28 | 175.8% | 21.4% | 22.9% | 0.93 | −34.8% | n/a |
| 삼성전자 buy-and-hold | 2021-01-07 to 2026-05-28 | 264.4% | 28.0% | 32.8% | 0.85 | −45.2% | n/a |
AI raw score 기반 Top 10 매일 리밸런싱 전략은 120~150% 수준의 지나치게 높은 회전율(turnover)을 기록하였다. 거래비용을 반영하지 않은 상태에서도 시장 지수 및 삼성전자 단순 보유 전략 대비 성과가 저조하였다.
2025년 이후 국면만을 한정하여 평가한 결과는 다음과 같다.
Table 7. 최근 국면 성과 비교 (2025-01-06 ~ 2026-05-28)
| 전략 | 구간 | 누적수익률 | 연환산수익률 | Sharpe | MDD | 평균 turnover |
|---|---|---|---|---|---|---|
| Jiang top10 | 2025-01-06 to 2026-05-28 | 36.4% | 26.1% | 0.80 | −25.8% | 148.0% |
| Gupta top10 | 2025-01-06 to 2026-05-28 | 10.9% | 8.0% | 0.31 | −19.0% | 123.6% |
| Jiang+Gupta top10 | 2025-01-06 to 2026-05-28 | 40.6% | 28.9% | 0.96 | −20.4% | 135.1% |
| KOSPI buy-and-hold | 2025-01-07 to 2026-05-28 | 228.9% | 143.6% | 4.27 | −19.9% | n/a |
| 삼성전자 buy-and-hold | 2025-01-07 to 2026-05-28 | 435.8% | 250.8% | 5.15 | −23.3% | n/a |
실증 데이터 결과는 AI 차트 예측 모형의 예측치가 지닌 경제적 정보성과 이를 실행 가능한 포트폴리오 구성 규칙으로 변환하는 매커니즘 사이의 괴리를 보여준다. 횡단면 점수를 단순 상위 추출하여 일별 매매하는 방식은 과도한 회전율과 슬리피지 유발로 인해 전략의 실질 효율성을 저하시킨다.
VII. 베이스라인 비교 체계 구성
AI 전략의 성능 저하 원인을 규명하기 위해서는 더 단순한 구조의 다기간 추세 전략과의 체계적 비교 검증이 요구된다.
Table 8. 전략 비교 체계
| 비교 대상 | 설정 목적 및 학술적 의미 |
|---|---|
| KOSPI buy-and-hold | 시장 전반의 장기 보유 벤치마크 기준선 |
| 삼성전자 buy-and-hold | 국내 시장 대표 대형주 단순 보유 기준선 |
| 시가총액 상위 5개 동일가중 | 대형주 분산 투자 베이스라인 |
| 다기간 이동평균 추세 전략 | 추세 필터링에 의한 방어 및 회전율 감소 효과 검증 |
| Jiang/Gupta AI top10 | AI 단기 예측 점수 직접 매매 전략과의 비교 |
Table 9. 성과 평가 지표 및 검증 목적
| 평가 지표 | 검증 목적 |
|---|---|
| 누적수익률 (Cumulative Return) | 장기 절대 자산 증분 측정 |
| 연환산수익률 (CAGR) | 상이한 평가 기간 간 표준화된 수익성 비교 |
| 변동성 (Annualized Volatility) | 수익률 시계열의 리스크 및 흔들림 정도 파악 |
| Sharpe Ratio | 단위 위험당 초과 수익성 평가 |
| MDD (Maximum Drawdown) | 구간 내 고점 대비 최대 하락폭 및 하방 위험 평가 |
| 회전율 (Average Turnover) | 거래비용 감안 시 실제 실행 가능성 검증 |
VIII. 결론 및 향후 과제
기술적 분석은 시각적 차트 패턴 판독에서 출발하여 파라메트릭·비파라메트릭 통계 검정, 머신러닝 팩터 조합, 딥러닝 차트 이미지 인식 및 강화학습 시스템으로 발전해 왔다.
그러나 기술적 분석 본연의 근본적 의문—과거 가격 정보의 미래 유효성, 거래비용 대비 초과수익성, 백테스트의 실증 강건성, 고도화된 AI 모형 대 단순 이동평균 규칙 간 우위성—은 여전히 유효하다.
다기간 이동평균 추세 전략은 이러한 의문에 답하기 위한 가장 정갈한 실증 실험이다. 복수의 이동평균선이 정렬된 자산에 한해 위험 노출을 유지하고 시장 하락기 비중을 축소하는 단순 규칙은, AI 차트 예측 모델의 복잡한 신호를 실제 포트폴리오로 전환할 때 필수적인 벤치마크 역할을 수행한다.
References
Lo, A. W., Mamaysky, H., & Wang, J. (2000). Foundations of Technical Analysis: Computational Algorithms, Statistical Inference, and Empirical Implementation. The Journal of Finance, 55(4), 1705-1765. https://doi.org/10.1111/0022-1082.00265
Zhu, Y., & Zhou, G. (2009). Technical analysis: An asset allocation perspective on the use of moving averages. Journal of Financial Economics, 92, 519-544. https://doi.org/10.1016/j.jfineco.2008.07.002
Han, Y., Zhou, G., & Zhu, Y. (2016). A trend factor: Any economic gains from using information over investment horizons? Journal of Financial Economics, 122(2), 352-375. https://doi.org/10.1016/j.jfineco.2016.01.029
Jiang, J., Kelly, B., & Xiu, D. (2023). (Re-)Imag(in)ing Price Trends. The Journal of Finance, 78(6), 3193-3249. https://doi.org/10.1111/jofi.13268