횡보장에서 알파를 찾는 다섯 번의 실험 — 그리고 데이터가 알려준 것

우리 시스템은 12년 백테스트에서 KOSPI를 크게 이깁니다. 그런데 한 구간에서만큼은 거의 돈을 벌지 못합니다. 바로 전체의 60%를 차지하는 횡보장입니다. 이 약점을 고치려 다섯 가지 방법을 시도했고, 다섯 번 모두 실패했습니다. 이 글은 그 실패의 기록입니다. 그리고 왜 그 실패가 오히려 좋은 소식인지에 대한 이야기입니다.

문제: 횡보장 81개월, 월 0.17%

우리가 운용하는 국면 적응형 시스템(REGIME_C)은 시장을 셋으로 나눕니다. 상승장(BULL), 횡보장(SIDEWAYS), 하락장(BEAR)입니다. 각 국면마다 다른 전략이 자동으로 적용됩니다.

12년(136개월) 백테스트에서 국면별 월평균 수익은 이렇습니다.

국면	개월 수	우리 시스템 월수익	KOSPI 월수익
상승장	21개월	+6.68%	+8.53%
횡보장	81개월	+0.17%	+1.49%
하락장	34개월	+1.65%	−4.32%

상승장에선 잘 벌고, 하락장에선 시장이 폭락할 때도 방어에 성공합니다. 그런데 전체의 60%를 차지하는 횡보장에서 월 0.17%에 그칩니다. 연으로 환산하면 약 2%, 사실상 예금만도 못한 수준입니다. 그 81개월 동안 시장 변동성과 낙폭 위험은 고스란히 떠안으면서 말입니다.

이건 명백한 약점으로 보였습니다. 그래서 고치기로 했습니다.

실험 1: 횡보장엔 그냥 지수를 사자 (인덱스 추종)

가장 단순한 발상이었습니다. 횡보장 KOSPI가 월 1.49%인데 우리가 0.17%라면, 종목 고르기를 포기하고 그냥 KOSPI 지수를 추종하면 되지 않을까?

결과는 정반대였습니다.

지표	현행	인덱스 추종
횡보장 월수익	0.17%	0.06% (더 하락)
Full Sharpe	0.59	0.49 (하락)
Full 최대낙폭	−26.8%	−37.1% (악화)

추종했더니 오히려 더 나빠졌습니다. 원인은 통계의 함정이었습니다. 우리가 "횡보"라고 분류한 81개월과, KOSPI가 자체적으로 "횡보"라 보는 구간이 서로 다른 기간이었던 것입니다. 우리 시스템은 "지수는 오르는데 소수 대형주만 끌어올리는" 구간을 횡보로 강등하는데, 바로 그 구간의 KOSPI 평균 수익이 1.49%가 아니라 0.06%였습니다.

게다가 단기 성과만 좋아 보이고 전체 성과는 나빠지는 전형적인 착시가 나타났습니다. 최근 3년은 마침 시장이 폭등한 시기라, 횡보장에 지수를 박아넣으니 그 상승분을 받아 좋아 보였을 뿐입니다. 12년 전체로 보면 낙폭이 10%포인트나 커졌습니다.

기각. 종목 선택이 주던 방어 효과를, 지수 베타가 날려버렸습니다.

실험 2: 같은 업종 안에서 상대적으로 싼 종목만 (페어 트레이딩)

실험 1이 준 교훈이 있었습니다. 그 81개월의 수익은 시장 방향(베타)에 있지 않았습니다. 그렇다면 종목 간 상대적 강약에 있을까?

데이터를 보니 단서가 있었습니다. 횡보장에서 우리 시스템이 고르는 종목은 거의 다 금융주(은행·증권)였고, 종목 간 수익 분산도가 방향성 알파의 12배에 달했습니다. 시장은 제자리인데 종목끼리는 크게 흩어진다는 뜻입니다. 그렇다면 같은 업종 안에서 상대적으로 저평가된 종목만 골라 담으면 어떨까? 이것이 페어 트레이딩의 발상입니다.

먼저 은행지주 9개로 시험했습니다.

방식	월수익	누적수익
다 담기 (현행)	−0.61%	−31.7%
상대가치 1등만	−0.42%	−25.0%

"1등만 담기"가 "다 담기"보다 낫긴 했습니다. 하지만 둘 다 손실이었습니다. 덜 잃을 뿐, 여전히 돈을 잃는 전략이었습니다. 게다가 "상대적으로 싼 종목"이 9개 종목에 거의 균등하게 흩어졌습니다. 진짜 평균회귀가 강하다면 특정 종목으로 수렴해야 하는데, 매번 다른 종목이 1등이라는 건 신호가 아니라 잡음에 가깝다는 뜻입니다.

증권주로 바꿔 다시 시험했습니다. 더 나빴습니다.

방식	월수익	누적수익
다 담기	−0.17%	−16.7%
상대가치 1등만	−0.76%	−43.9%

페어 필터가 오히려 손실을 키웠습니다. "싸졌다"고 고른 종목이 대부분 구조적으로 약했던 소형 증권주였기 때문입니다. 평균회귀가 아니라, 그냥 약한 종목을 계속 주워 담은 셈입니다.

기각. 한국 금융주는 같은 업종 안에서도 안정적인 평균회귀 관계가 약했습니다. 더구나 페어 트레이딩의 정석은 공매도를 동반하는데, 개인 투자자의 공매도 제약을 고려하면 애초에 실제 운용에 맞지 않는 전략이기도 했습니다.

실험 3: 위험한 횡보장만 피하자 (변동성 타겟팅)

알파를 못 찾겠다면 발상을 바꿔, 위험만 줄이기로 했습니다. 횡보장 중에서도 변동성이 높은 "위험한" 구간만 골라 노출을 줄이면, 손실은 피하고 안전한 구간의 수익은 지킬 수 있지 않을까?

이 전략이 성립하려면 전제가 참이어야 했습니다. 횡보장 손실이 고변동성 구간에 몰려 있어야 합니다. 확인해 봤습니다.

변동성 구간	월평균 수익	승률
저변동	+0.03%	52%
중변동	+0.48%	52%
고변동	+1.48%	56%

결과는 충격적이었습니다. 정반대였습니다. 횡보장에서 변동성이 높을수록 수익이 좋았습니다. 위험한 구간이 오히려 돈을 벌어주고 있었던 것입니다. 죽어 있는 건 저변동 구간이었습니다.

이 발견은 과거의 미스터리 하나를 풀어주었습니다. 예전에 "횡보장 노출을 절반으로 줄이는" 전략을 시도했다가 "수익만 깎이고 방어는 안 됐다"며 되돌린 적이 있었는데, 그 이유가 바로 이것이었습니다. 횡보장의 수익이 고변동성 구간에서 나오고 있었기에, 노출을 줄이면 가장 잘 버는 구간을 스스로 잘라낸 셈이었습니다.

기각. 변동성 타겟팅은 수익원을 잘라내는 역효과를 낳습니다.

실험 4: 죽어 있는 저변동 구간만 비우자

실험 3이 표적을 좁혀주었습니다. 문제는 횡보장 81개월 전체가 아니라, 수익이 0에 가까운 저변동 구간이었습니다. 이 구간만 골라 무위험 자산(MMF)으로 비우면, 죽은 0 수익을 안전한 이자 수익으로 바꿀 수 있지 않을까?

이번엔 미래를 미리 엿보지 않도록, 과거 데이터만으로 "지금이 저변동인지"를 판정하는 엄격한 방식을 적용했습니다. 그러자 실제로 회피 가능한 저변동 구간은 11개월에 불과했습니다.

기간	현행 Sharpe	저변동 회피 Sharpe	변화
전체 12년	0.697	0.684	−0.013
중기	0.705	0.707	+0.002
최근 3년	1.318	1.379	+0.061

전체 기간 기준으로는 오히려 미세하게 나빠졌습니다. 회피 대상이 11개월(전체의 8%)뿐이라 효과 자체가 미미했고, 최근 3년만 살짝 좋아진 것도 실험 1에서 봤던 착시와 같은 패턴이었습니다.

기각. 정밀하게 표적을 좁혀도, 그 구간이 너무 작아 의미 있는 개선이 나오지 않았습니다.

실험 5: 그럼 아예 다른 나라로 갈아타자 (S&P500)

여기까지 오면 누구나 같은 생각을 합니다. "한국 시장이 그 구간에 답이 없다면, 미국으로 돈을 옮기면 되잖아?" 가장 자연스러운 반론입니다. 저변동 횡보장 동안만 자금을 S&P500으로 옮겨두는 발상입니다.

이 전략이 성립하려면 전제가 참이어야 합니다. 한국이 조용한 시기에 미국은 좋아야 합니다. 한국 저변동 구간이 외국인 자금이 미국으로 빠져나가는 때라면, 미국은 그 사이 잘 나가고 있을 테니까요. 직관적으로 그럴듯합니다.

확인해 봤습니다. 저변동 횡보장 11개월 동안, 한국에 머물렀을 때와 S&P500으로 갈아탔을 때를 비교했습니다. 환율까지 반영해, 실제로 살 수 있는 환노출형 미국 ETF 기준으로 계산했습니다.

구간 (저변동 11개월)	월평균 수익
한국에 머무름	+0.71%
S&P500 (달러 기준)	−0.04%
원/달러 변동	−0.50% (원화 강세)
S&P500 (원화 환산)	−0.55%

또 정반대였습니다. 한국이 조용한 시기에 미국도 함께 조용했습니다. 글로벌 시장은 우리 생각보다 훨씬 강하게 같이 움직입니다. 더구나 환율이 도와주기는커녕 발목을 잡았습니다. 그 시기는 원화가 오히려 강세였기에, 달러 자산을 들고 있었다면 환차손까지 봤을 것입니다. 원화로 환산한 S&P500은 −0.55%로, 한국에 머무는 것보다 월 1.25%포인트나 못했습니다.

기각. 한국이 조용한 시기는 외국인이 미국으로 떠나는 때가 아니라, 글로벌 시장 전체가 함께 쉬어가는 때였습니다.

여기엔 더 깊은 교훈이 하나 숨어 있습니다. 우리가 "저변동 횡보장은 죽어 있다"고 믿었던 전제 자체가, 실시간으로 식별 가능한 구간(11개월)에서는 사실 +0.71%로 멀쩡했습니다. 지나고 나서 "그때가 죽은 구간이었다"고 말하기는 쉽지만, 그 순간에는 알 수 없습니다. 횡보장에는 실시간으로 잡아낼 수 있는 "비워야 할 죽은 구간"이 애초에 존재하지 않았던 것입니다.

결론: 건드리지 않는 것이 최선이었다

다섯 번의 실험이 모두 같은 곳을 가리켰습니다.

실험	접근	결과
1	인덱스 추종	낙폭 악화, 착시
2	페어 트레이딩	손실, 평균회귀 약함
3	변동성 타겟팅	수익원을 잘라냄
4	저변동 구간 회피	효과 미미
5	해외(S&P) 갈아타기	글로벌 동조로 무의미

횡보장 81개월의 낮은 수익은 고쳐야 할 버그가 아니었습니다. 한국 시장이 그 구간에 알파도 베타도 잘 주지 않는다는 구조적 사실이었습니다. 어설픈 개입은 예외 없이 위험조정 수익을 떨어뜨렸습니다.

그리고 한 발 물러서 보면, 애초에 이것은 치명적인 약점이 아니었습니다. 우리 시스템의 12년 위험조정 수익(Sharpe 0.70)은 KOSPI(0.37)의 거의 두 배입니다. 알파는 상승장의 공격과 하락장의 방어에서 나옵니다. 횡보장은 "벌지는 못해도 잃지 않고 버티는" 역할이면 충분했습니다. 모든 국면에서 이기려는 욕심이 오히려 시스템을 망칠 뻔했습니다.

가장 좋은 결정은, 아무것도 하지 않는 것이었습니다.

퀀트 투자에서 가장 어려운 일은 좋은 전략을 만드는 것이 아니라, 이미 좋은 전략을 함부로 건드리지 않는 것입니다. 우리는 다섯 번의 검증 끝에 그것을 배웠습니다. 그리고 그 과정을 숨기지 않고 기록합니다. 이것이 우리가 일하는 방식입니다.

보너스: 그 조용한 시기, 시장에서 가장 많이 오른 종목은?

마지막으로 궁금증이 하나 남습니다. 우리 시스템이 횡보장에서 잠잠했다면, 그 시기에 시장 전체에서는 무엇이 가장 많이 올랐을까? 혹시 우리가 놓친 진짜 수익원이 있었던 건 아닐까?

확인해 봤습니다. 시스템이 가장 답답했던 저변동 횡보 구간 동안, 코스피와 코스닥 전체에서 한 달간 가장 많이 오른 종목들을 뽑았습니다. 결과는 분명했습니다. 상위권의 72%가 코스닥이었고, 평균 한 달 상승률이 73%에 달했습니다. 이름을 보면 성격이 한눈에 드러납니다.

종목	시기	한 달 상승률	당시 테마
아남전자	2017-02	+258%	삼성-하만 인수, AI 스피커
에스와이	2016-08	+238%	태양광·신재생
이수스페셜티케미컬	2023-05	+201%	2차전지
금양	2023-06	+200%	2차전지
네이처셀	2018-08	+165%	줄기세포 치료제

전부 강력한 테마(2차전지·바이오·AI·신재생)를 등에 업고 한 달 만에 100~250% 폭등한 중소형주였습니다. 화려해 보입니다. 그런데 그 뒤가 중요합니다.

금양은 2022년 7월 5천원대에서 1년 만에 30배 넘게 폭등해 시가총액 11조원을 찍었습니다. 그 동력은 실적이 아니라 스토리였습니다. 매년 4천억 원대 매출이 나온다던 광산 사업은 이후 수십억 원대로 하향 조정됐고, 거짓 공시 논란 끝에 주가는 1만 원 아래로 추락했습니다. 24만 명에 달하는 소액주주가 물렸습니다. 네이처셀은 줄기세포 치료제의 식약처 허가 기대감으로 5개월 만에 9배 올랐다가, 허가가 반려되자 급락했습니다.

여기에 우리 이야기의 마지막 퍼즐 조각이 있습니다. 그 조용한 시기에도 시장에는 분명 거대한 수익이 있었습니다. 다만 그것은 검증할 수도, 재현할 수도 없는 테마 투기의 영역이었고, 대부분은 급등 뒤 급락으로 끝났습니다.

우리가 횡보장에서 돈을 벌지 못한 것이 아닙니다. 그 시기의 수익이 우리가 규율상 결코 손대지 않기로 한 영역에 있었던 것입니다. 어느 종목이 터질지는 사전에 알 수 없고, 터진 뒤에는 대부분 무너집니다. 우리는 검증된 대형주와 재현 가능한 신호만으로 운용합니다. 그 원칙을 지키는 한, 이런 종목들은 우리의 것이 아닙니다.

알파가 없어서가 아니라, 잡지 않기로 선택한 알파였습니다. 그리고 그 선택이 옳았다고 믿습니다.

---

본 글의 모든 수치는 2014~2026년 백테스트 결과이며, 거래비용 0.35%(왕복)와 생존편향 보정을 반영했습니다. 보너스 섹션의 개별 종목 등락은 공시·언론 보도에 근거한 사실이며, 특정 종목의 매수·매도를 권유하는 것이 아닙니다. 언급된 급등주 상당수는 이후 큰 폭의 하락을 겪었습니다. 백테스트 결과는 미래 수익을 보장하지 않습니다.