May 27, 2026 · Essay

기술적 분석과 인공지능:
차트 읽기에서 AI 트레이더까지

차트를 사람이 읽던 기술은 이제 가격, 주문장, 뉴스, 공시를 함께 읽는 AI 의사결정 시스템으로 확장되고 있다.

주식 차트를 보다 보면 누구나 한 번쯤 이런 생각을 한다.

이 모양, 예전에도 본 것 같은데?
이동평균선을 뚫었으니 이제 오르는 걸까?
거래량이 갑자기 늘었는데 뭔가 신호가 있는 걸까?

이런 질문에서 출발한 것이 기술적 분석이다. 기술적 분석은 과거의 가격과 거래량 속에 반복되는 패턴이 있고, 그 패턴이 미래 가격을 조금이나마 알려줄 수 있다고 본다.

물론 이 생각은 늘 논쟁적이었다. 어떤 사람에게는 유용한 시장의 언어처럼 보이지만, 다른 사람에게는 사후적으로 끼워 맞춘 이야기처럼 보인다. 같은 차트를 봐도 누군가는 상승 신호라고 말하고, 누군가는 위험 신호라고 말할 수 있기 때문이다.

그런데 인공지능이 등장하면서 이 오래된 논쟁은 조금 다른 모습으로 이어지고 있다. 예전에는 사람이 차트를 보고 패턴을 찾았다면, 이제는 모델이 가격, 거래량, 주문장, 뉴스, 공시, 거시지표까지 함께 읽는다. 시장을 읽는 방식이 사람의 눈에서 데이터와 모델의 체계로 옮겨가고 있는 셈이다.

흐름을 단순하게 정리하면 이렇다.

차트 패턴 → 예측 모델 → 거래 의사결정 → AI 에이전트

기술적 분석은 사라진 것이 아니다. AI 안으로 들어가면서 더 넓은 형태로 바뀌고 있다.

I. 차트 패턴은 정말 의미가 있을까?

전통적인 기술적 분석은 차트에 반복되는 모양이 있다고 본다. 이동평균선, 추세선, 지지선과 저항선, 헤드앤숄더, 삼각형 패턴 같은 것들이 대표적이다.

문제는 이런 패턴들이 꽤 주관적이라는 점이다. 차트 패턴은 눈으로 보면 그럴듯하지만, 막상 "정확히 어떤 조건이면 이 패턴이라고 부를 수 있는가?"라고 물으면 답이 애매해진다. 그래서 학계에서는 오랫동안 기술적 분석을 의심스럽게 봤다. 정말 정보가 있는 것인지, 아니면 지나간 가격 움직임에 이름을 붙이는 것인지 구분하기 어렵기 때문이다.

이 지점에서 Lo, Mamaysky, Wang의 연구는 중요한 출발점이다. 이들은 헤드앤숄더, 삼각형, 직사각형, 더블탑, 더블바텀 같은 차트 패턴을 사람이 감으로 찾는 대신 알고리즘으로 정의하려 했다. 차트를 부드럽게 처리하고, 특정 모양이 나타난 뒤의 수익률 분포가 평소와 다른지 통계적으로 검정한 것이다.

결론은 단순하지 않다. 일부 차트 패턴은 미래 수익률에 대한 정보를 조금은 담고 있을 수 있다. 하지만 이것이 곧바로 "이 패턴만 찾으면 돈을 번다"는 뜻은 아니다. 실제 투자에서는 거래비용, 세금, 슬리피지, 시장충격 같은 요소가 성과를 크게 바꾼다.

그래서 이 연구의 의미는 "기술적 분석이 무조건 맞다"가 아니다. 오히려 중요한 점은 차트 패턴을 감이나 경험담이 아니라 검증 가능한 대상으로 바꾸려 했다는 데 있다. 기술적 분석이 학문적 논의 안으로 들어오는 첫 문이 열린 셈이다.

II. 왜 이동평균은 아직도 살아남았을까?

이동평균은 기술적 분석에서 가장 오래되고 단순한 도구 중 하나다. 예를 들어 5일 이동평균선이 20일 이동평균선을 위로 뚫으면 매수 신호로 보고, 아래로 내려가면 매도 신호로 보는 식이다.

너무 단순해 보이지만, 이동평균은 지금도 널리 쓰인다. 이유는 간단하다. 시장은 너무 시끄럽기 때문이다. 하루하루의 가격은 뉴스, 수급, 심리, 우연한 변동에 따라 계속 흔들린다. 이동평균은 그 흔들림을 조금 줄이고, 큰 흐름을 보려는 방법이다.

Zhu와 Zhou는 이동평균을 단순한 매수·매도 신호가 아니라, 불확실한 시장에서 가격 정보를 걸러내는 방법으로 본다. 투자자는 시장을 완벽하게 이해하지 못한다. 어떤 예측 변수가 진짜 중요한지도 확신하기 어렵고, 어떤 모델이 맞는지도 알기 어렵다. 이런 상황에서는 아주 복잡한 최적화 모델보다 단순한 이동평균 규칙이 오히려 견고할 수 있다.

이동평균의 가치는 "언제나 시장을 이긴다"에 있지 않다. 복잡하고 불확실한 환경에서 너무 많은 가정을 하지 않고도 판단 기준을 제공한다는 데 있다. 단순함이 약점이 아니라 장점이 되는 순간이 있는 것이다.

이 관점은 기술적 분석을 조금 다르게 보게 만든다. 기술적 분석은 미래를 맞히는 마법이 아니라, 불확실한 시장에서 행동을 단순화하는 도구일 수 있다.

III. 차트 읽기는 퀀트 리서치로 넓어졌다

시간이 지나면서 기술적 분석은 개인 투자자의 차트 읽기에서 더 넓은 퀀트 리서치로 이어졌다. 이제는 단순히 차트를 보는 것이 아니라, 가격, 거래량, 재무제표, 애널리스트 정보, 시장 이상현상, 주문장 데이터까지 함께 분석한다.

쉽게 말하면 예전에는 한 사람이 차트를 보며 "이 패턴은 좋아 보인다"고 판단했다. 이제는 조직이 데이터를 모으고, 신호를 만들고, 백테스트하고, 리스크를 점검한다. 패턴 찾기가 하나의 리서치 시스템이 된 것이다.

Birru, Gokkaya, Liu의 연구는 이 변화를 잘 보여준다. 이들은 증권사 내부의 퀀트 리서치가 애널리스트와 기관투자자에게 어떤 영향을 주는지 분석했다. 결과적으로 퀀트 리서치에 더 많이 노출된 애널리스트와 투자자들은 시장 이상현상을 더 잘 이해하고 활용하는 경향을 보였다.

여기서 중요한 변화는 기술적 분석이 더 이상 좁은 의미의 "차트 보는 법"에 머물지 않는다는 점이다. 패턴을 찾고, 검증하고, 투자 신호로 바꾸고, 실제 의사결정에 연결하는 과정 전체가 하나의 체계가 되었다. 기술적 분석은 퀀트 리서치 안에서 더 조직적인 언어를 얻은 셈이다.

IV. 머신러닝은 기술적 지표를 재료로 쓴다

머신러닝이 금융에 들어오면서 기술적 분석은 다시 한 번 모습을 바꾼다.

이동평균, 모멘텀, 변동성, 거래량, 가격 차분, 상관관계 같은 지표들은 더 이상 사람이 하나하나 해석해야 하는 신호에만 머물지 않는다. 이제는 모델에 넣는 입력값, 즉 특징이 된다.

사람은 "20일 이동평균선을 돌파했으니 좋아 보인다"고 말할 수 있다. 반면 머신러닝 모델은 수십 개, 수백 개의 지표를 한꺼번에 보고 "이 조합에서는 다음 구간에 오를 확률이 조금 높다"고 판단한다.

초기 금융 머신러닝 연구들은 주가의 정확한 가격을 맞히기보다, 다음 구간에 오를지 내릴지를 맞히는 문제에 많이 집중했다. 금융시장은 잡음이 많기 때문에, 정확한 가격보다 방향을 맞히는 것이 상대적으로 현실적인 목표였기 때문이다.

Dixon, Klabjan, Bang의 연구는 여러 선물시장 데이터를 사용해 딥러닝 모델이 아주 짧은 시간 뒤 가격이 오를지, 내릴지, 그대로일지를 분류하도록 했다. 이 연구는 딥러닝이 여러 시장의 움직임과 상관관계를 동시에 학습할 수 있다는 가능성을 보여준다.

다만 이런 결과는 조심해서 읽어야 한다. 백테스트에서는 좋아 보여도 실제 거래에서는 거래비용, 슬리피지, 체결 지연, 시장충격이 수익을 크게 깎을 수 있다. 금융 AI 연구에서 "예측이 된다"와 "실제로 돈이 된다" 사이에는 꽤 넓은 간격이 있다.

이 시기의 핵심은 분명하다. 기술적 분석은 "차트를 읽는 법"에서 "모델이 읽을 수 있는 데이터로 바꾸는 법"으로 이동했다.

V. 딥러닝은 차트 자체를 읽기 시작했다

머신러닝에서는 사람이 먼저 지표를 만들어 모델에 넣는 경우가 많았다. 이동평균, RSI, 변동성 같은 지표를 계산한 뒤, 모델이 그 조합을 학습하도록 하는 방식이다.

딥러닝은 여기서 한 걸음 더 나아간다. 사람이 모든 지표를 미리 정해주지 않아도, 모델이 데이터 속의 복잡한 패턴을 직접 배울 수 있다는 기대가 생겼다. RNN, LSTM, CNN 같은 모델들이 주가, 지수, 외환, 원자재, 암호화폐 예측에 사용되기 시작했다.

Sezer, Gudelek, Ozbayoglu의 서베이는 2005년부터 2019년까지 금융 시계열 예측에 딥러닝이 어떻게 쓰였는지 정리한다. 딥러닝은 주가, 지수, 외환, 원자재, 암호화폐, 변동성 예측 등 다양한 영역에 적용되었다. RNN과 LSTM은 시간의 흐름을 다루는 데, CNN은 차트나 구조화된 입력을 다루는 데, 강화학습은 거래 의사결정과 연결되는 데 사용되었다.

하지만 여기에도 주의할 점이 있다. 연구마다 데이터, 기간, 평가 방식, 거래비용 가정이 다르기 때문에 단순히 "딥러닝이 항상 더 좋다"고 말하기는 어렵다. 금융 예측에서 성과는 모델 구조만으로 결정되지 않는다. 어떤 데이터를 썼는지, 어떤 기간으로 검증했는지, 실제 거래 가능한 조건을 얼마나 반영했는지가 매우 중요하다.

기술적 분석과 딥러닝을 직접 연결하는 연구로는 Jiang, Kelly, Xiu의 연구가 특히 흥미롭다. 이들은 과거 가격과 거래량 정보를 OHLC 차트 이미지로 바꾼 뒤, CNN이 그 이미지에서 가격 패턴을 학습하도록 했다. 쉽게 말하면 사람이 차트를 눈으로 보며 "이 모양은 익숙한데?"라고 느끼던 일을, 이미지 인식 모델이 직접 하도록 만든 것이다.

이 연구가 중요한 이유는 기술적 분석의 오래된 직관을 현대적인 딥러닝 방식으로 다시 해석했다는 데 있다. 모델은 사람이 미리 정한 이동평균이나 모멘텀 지표만 보는 것이 아니라, 차트 이미지 안에서 반복되는 시각적 패턴을 스스로 학습한다. 전통적 기술적 분석이 말하던 "차트에는 반복되는 형태가 있다"는 생각이 CNN이라는 도구를 통해 다시 실험된 셈이다.

딥러닝의 장점은 주문장 데이터에서도 잘 드러난다. 주문장은 단순한 가격 차트보다 훨씬 많은 정보를 담고 있다. 어느 가격대에 매수 주문이 얼마나 쌓여 있는지, 매도 주문은 얼마나 있는지, 주문이 얼마나 빠르게 생기고 사라지는지까지 볼 수 있다.

Sirignano의 연구는 NASDAQ Level III 주문장 데이터를 사용해, 주문장의 깊이와 구조를 반영한 신경망이 가까운 미래의 bid와 ask 가격 분포를 예측할 수 있음을 보였다. 여기서 중요한 점은 단순히 "오른다/내린다"가 아니라 가능한 가격 움직임의 분포를 예측한다는 것이다. 이는 트레이딩뿐 아니라 리스크 관리에도 중요하다.

이쯤 되면 기술적 분석의 대상은 더 이상 캔들 차트만이 아니다. 차트의 시각적 패턴, 주문장의 미세한 구조, 시장 참여자의 주문 흐름까지 모두 모델이 배울 수 있는 데이터가 된다.

VI. 강화학습은 "맞히기"보다 "행동하기"를 묻는다

많은 금융 예측 모델은 이런 질문을 던진다. "가격이 오를까, 내릴까?" 강화학습은 질문을 조금 다르게 바꾼다. "지금 무엇을 해야 장기적으로 더 좋은 결과가 나올까?"

이 차이는 꽤 크다. 실제 투자는 단순히 방향을 맞히는 게임이 아니다. 얼마나 살지, 언제 팔지, 손실이 나면 버틸지 줄일지, 거래비용은 얼마나 나갈지, 포트폴리오 전체 위험은 괜찮은지까지 함께 봐야 한다.

그래서 거래는 예측 문제이면서 동시에 의사결정 문제다. 오늘 매수하면 내일의 선택지가 달라지고, 포지션을 유지하면 리스크가 누적되며, 거래비용과 슬리피지가 계속 영향을 준다.

Yang, Liu, Zhong, Walid는 PPO, A2C, DDPG 같은 강화학습 알고리즘을 자동 주식거래에 적용했다. 이들은 여러 에이전트를 앙상블로 결합하고, 최근 검증 구간에서 성과가 좋은 모델을 선택하는 방식을 사용했다. 의의는 거래를 단순 예측 문제가 아니라 포트폴리오 조정, 거래비용, 리스크 관리가 결합된 순차적 의사결정 문제로 다뤘다는 데 있다.

Sun, Wang, An의 서베이는 강화학습 기반 퀀트 트레이딩을 더 넓게 정리한다. 강화학습은 알고리즘 트레이딩, 포트폴리오 관리, 주문집행, 마켓메이킹 등에 적용될 수 있다. 특히 가격 예측과 거래 행동을 분리하지 않고, 시장 상태에서 바로 행동 정책을 학습할 수 있다는 점이 장점이다.

물론 강화학습에도 어려움은 많다. 현실적인 시장 시뮬레이터를 만드는 일, 데이터 품질, 재현성, 시장 국면 변화, 리스크 통제는 여전히 큰 과제다. 그래도 방향은 분명하다. AI는 단순한 예측기에서 "어떻게 행동할 것인가"를 배우는 의사결정 시스템으로 이동하고 있다.

VII. 이제는 LLM과 투자 에이전트의 시대?

최근에는 LLM이 금융에도 들어오고 있다. 여기서 LLM은 단순히 가격을 예측하는 모델이라기보다, 여러 정보를 읽고 투자 판단을 돕는 분석 도구에 가깝다.

예를 들어 LLM은 뉴스, 공시, 애널리스트 리포트, 기술적 지표, 거시지표를 함께 읽고 정리할 수 있다. 더 나아가 어떤 시스템은 여러 역할을 가진 에이전트들이 토론하듯 투자 결정을 내리도록 설계된다.

Xiao, Sun, Luo, Wang의 TradingAgents는 이런 방향을 잘 보여준다. 이 시스템은 한 명의 AI가 모든 판단을 하는 대신, 기본적 분석가, 뉴스 분석가, 기술적 분석가, 강세 의견을 내는 리서처, 약세 의견을 내는 리서처, 트레이더, 리스크 매니저, 펀드매니저 같은 역할을 나눈다.

이 접근은 실제 투자 조직의 의사결정 구조를 흉내 낸다. 한쪽에서는 긍정적인 근거를 찾고, 다른 쪽에서는 위험 요인을 따지고, 트레이더와 리스크 매니저가 최종 판단을 조정한다. LLM은 숫자 예측기라기보다 텍스트와 맥락을 읽고, 여러 관점을 정리하고, 논쟁 형식의 reasoning을 구성하는 데 강하기 때문에 이런 구조와 잘 맞는다.

Wang 등은 Alpha-GPT를 통해 LLM이 퀀트 리서치의 생산성을 높일 수 있음을 보여준다. 여기서 알파란 시장보다 더 나은 수익을 낼 수 있다고 기대되는 투자 신호를 말한다. 전통적으로 알파 발굴은 사람이 투자 아이디어를 만들고, 이를 수식으로 바꾸고, 백테스트를 돌리고, 다시 수정하는 반복 작업이었다.

Alpha-GPT는 이 과정을 사람과 AI가 함께하도록 만든다. 예를 들어 사람이 "최근 거래량이 늘면서 가격이 안정적인 종목은 강할 수 있다"는 아이디어를 주면, 시스템은 이를 계산 가능한 팩터 표현으로 바꾸고, 과거 데이터에서 테스트하고, 결과를 다시 사람이 이해할 수 있게 설명한다. 이 관점에서 AI는 단순히 "매수/매도 신호를 내는 기계"가 아니라, 리서치 과정을 빠르게 돌리는 협업 도구가 된다.

최근에는 이런 흐름이 LLM과 강화학습을 결합한 알파 선별 문제로도 확장되고 있다. Jiang 등의 Alpha-R1은 LLM이 개별 알파 팩터의 경제적 의미, 잘 맞는 시장 국면, 실패할 수 있는 조건을 추론하고, 강화학습을 통해 시장 성과에 맞게 팩터를 동적으로 선별하는 방식을 제안한다.

이 접근은 꽤 중요한 변화를 보여준다. 예전의 기술적 분석과 퀀트 팩터 연구가 "어떤 신호를 만들 것인가?"에 집중했다면, 이제는 "지금 시장에서는 어떤 신호를 믿고, 어떤 신호를 버릴 것인가?"라는 문제로 이동하고 있다. 어떤 팩터도 항상 잘 작동하지 않는다. 시장 국면이 바뀌면 잘 먹히던 신호가 약해지고, 많은 투자자가 같은 전략을 따라 하면 알파가 사라지기도 한다. 그래서 신호를 만드는 것만큼이나, 신호를 고르는 일이 중요해진다.

물론 여기에도 환상은 금물이다. Li, Kim, Cucuringu, Ma의 연구는 LLM 기반 투자전략에 대한 중요한 균형추 역할을 한다. 이들은 더 긴 기간, 더 넓은 종목군, 상장폐지 종목 포함, 생존편향과 look-ahead bias 완화 같은 엄격한 조건에서 LLM 투자전략을 평가했다.

결론은 신중하다. LLM 기반 투자전략은 일부 상황에서는 좋아 보일 수 있지만, 장기적이고 넓은 조건에서는 전통적 벤치마크를 안정적으로 이기지 못하는 경우가 많다. LLM이 더 복잡하고 그럴듯한 설명을 만든다고 해서 자동으로 더 좋은 투자전략이 되는 것은 아니다.

LLM의 가능성은 "말을 잘하니 시장도 잘 맞힌다"에 있지 않다. 오히려 흩어진 정보를 정리하고, 투자 아이디어를 구조화하고, 리서치 과정을 자동화하며, 여러 관점을 비교하는 데 있다.

VIII. 전체 흐름을 한눈에 보면

기술적 분석과 인공지능의 흐름은 이렇게 정리할 수 있다.

Table 1. 기술적 분석과 인공지능의 흐름

IX. 기술적 분석은 AI 안에서 다시 살아난다

기술적 분석은 사라진 것이 아니다. 모습이 바뀌었을 뿐이다.

예전에는 사람이 차트에서 패턴을 찾았다. 이후에는 그 패턴을 알고리즘으로 정의하고 통계적으로 검정했다. 다시 시간이 지나며 가격과 거래량은 머신러닝 모델의 입력 특징이 되었고, 딥러닝은 차트 이미지와 주문장 구조를 직접 학습하기 시작했다. 강화학습은 "가격이 오를까?"라는 질문을 "지금 무엇을 해야 할까?"로 바꾸었다. LLM은 뉴스, 공시, 리포트, 팩터, 리스크를 함께 읽고 투자 판단을 돕는 에이전트로 확장되고 있다.

하지만 질문은 여전히 비슷하다.

과거 가격에는 정말 미래에 대한 정보가 있을까?
그 정보는 거래비용을 넘을 만큼 의미가 있을까?
백테스트에서 좋았던 전략은 실제 시장에서도 통할까?
복잡한 AI는 단순한 규칙보다 정말 더 나을까?

이 질문들은 오래전 차트를 보던 투자자에게도, 오늘날 AI 모델을 만드는 연구자에게도 여전히 중요하다.

그래서 이 이야기는 "기술적 분석이 AI로 진화했다" 정도로 끝낼 수 없다. 더 정확히 말하면 이렇다.

시장 패턴을 읽으려는 노력은 사람의 눈에서 출발해, 통계적 검정, 머신러닝 예측, 강화학습 의사결정, LLM 기반 투자 에이전트로 확장되어 왔다.

기술적 분석은 낡은 미신처럼 보일 때도 있지만, 그 안에는 오래된 질문이 있다. 시장에는 반복되는 구조가 있는가? 있다면 우리는 그것을 어떻게 발견하고, 검증하고, 실제 의사결정에 사용할 수 있는가?

인공지능은 이 질문에 대한 최신 도구일 뿐이다. 답은 아직 끝나지 않았다.

References

Lo, A. W., Mamaysky, H., & Wang, J. (2000). Foundations of Technical Analysis: Computational Algorithms, Statistical Inference, and Empirical Implementation. NBER Working Paper Series. https://doi.org/10.3386/w7613

Zhu, Y., & Zhou, G. (2009). Technical analysis: An asset allocation perspective on the use of moving averages. Journal of Financial Economics, 92, 519-544. https://doi.org/10.1016/j.jfineco.2008.07.002

Birru, J., Gokkaya, S., & Liu, X. (2018). Capital Market Anomalies and Quantitative Research. Charles A. Dice Center/Fisher College of Business Working Paper Series. https://doi.org/10.2139/ssrn.3152641

Dixon, M., Klabjan, D., & Bang, J. H. (2016). Classification-based Financial Markets Prediction using Deep Neural Networks. arXiv. https://doi.org/10.2139/ssrn.2756331

Sirignano, J. A. (2016). Deep Learning for Limit Order Books. arXiv [q-fin.TR].

Sezer, O. B., Gudelek, M. U., & Ozbayoglu, A. M. (2019). Financial time series forecasting with deep learning: A systematic literature review: 2005-2019. Applied Soft Computing. https://doi.org/10.1016/j.asoc.2020.106181

Jiang, J., Kelly, B., & Xiu, D. (2023). (Re-)Imag(in)ing Price Trends. The Journal of Finance. https://doi.org/10.1111/jofi.13268

Yang, H., Liu, X.-Y., Zhong, S., & Walid, A. (2020). Deep Reinforcement Learning for Automated Stock Trading: An Ensemble Strategy. ACM International Conference on AI in Finance. https://doi.org/10.2139/ssrn.3690996

Sun, S., Wang, R., & An, B. (2023). Reinforcement learning for quantitative trading. ACM Transactions on Intelligent Systems and Technology. https://doi.org/10.1145/3582560

Xiao, Y., Sun, E., Luo, D., & Wang, W. (2025). TradingAgents: Multi-Agents LLM Financial Trading Framework. arXiv.

Wang, S., Yuan, H., Zhou, L., Ni, L. M., Shum, H.-Y., & Guo, J. (2025). Alpha-GPT: Human-AI Interactive Alpha Mining for Quantitative Investment. arXiv. https://doi.org/10.18653/v1/2025.emnlp-demos.14

Jiang, Z., Zhao, L., Sun, R., Sun, R., Li, Z., Li, J., Jiang, D., Bai, Z., & Hua, C. (2025). Alpha-R1: Alpha Screening with LLM Reasoning via Reinforcement Learning. arXiv.

Li, W. W., Kim, H., Cucuringu, M., & Ma, T. (2025). Can LLM-based Financial Investing Strategies Outperform the Market in Long Run? arXiv. https://doi.org/10.2139/ssrn.5287013

← Archive