퀀트 트레이딩 1년차 40% 손실이 가르쳐준 것 — 과최적화보다 다전략 분산·감정 분리가 먼저다
작년 5월, 백테스트 샤프비율 2.3을 보고 실계좌에 넣은 전략이 두 달 만에 18% 빠졌습니다. 같은 기간 S&P는 10% 올랐는데 제 전략은 5개월 동안 flat이었고, 결국 누적 손실은 40%까지 갔어요. 전략 하나를 완벽하게 만들려고 6개월을 썼지만, 시장이 조금만 바뀌니 무너졌습니다. 완벽한 전략 하나보다 다전략 분산과 감정 분리가 먼저입니다.
퀀트 트레이딩 1년차가 40% 손실을 본 이유는 뭘까요?
제가 처음 6개월 동안 한 일은 하나였어요. 모멘텀 리버설 전략 하나를 파고들어서 백테스트 수익률을 35%에서 48%로 끌어올렸습니다. 파라미터를 조정하고, 필터를 추가하고, 리밸런싱 주기를 바꿔가며 곡선을 매끄럽게 만들었죠. 백테스트 샤프비율이 2.3까지 올라가자 확신이 생겼어요. 실계좌에 자본의 60%를 넣었습니다.
두 달 뒤 손실이 18%였어요. 백테스트에서는 최대 낙폭이 12%였는데, 실전에서는 그걸 넘어섰습니다. 제가 놓친 건 과최적화였어요. 백테스트 기간(2018~2023) 동안 잘 작동한 파라미터가 2024년 시장에서는 안 맞았던 거죠. 한 1년차 퀀트 트레이더는 "과적합된 전략은 백테스트에서만 빛난다"고 회고했는데, 저도 똑같은 함정에 빠졌더라고요.
더 큰 문제는 감정이었어요. 손실이 커질 때마다 "이번엔 반등할 거야"라고 믿으며 포지션을 유지했고, 결국 40%까지 빠진 뒤에야 청산했습니다. 개별 트레이드를 통계 샘플로 보는 대신, 하나하나에 의미를 부여하며 감정적으로 반응했던 거예요. 같은 기간 S&P는 10% 올랐는데 제 계좌는 반토막 가까이 났으니, 벤치마크 대비 상대 손실은 더 컸죠.
손실을 '전략 실패'가 아니라 '표본 크기'로 봐야 합니다
40% 손실 이후 저는 손실을 보는 관점을 바꿨어요. 전략이 틀렸다고 생각하는 대신, "샘플이 부족했다"고 봤습니다. 백테스트 5년 데이터로 수십 개 파라미터를 조정하면, 실전에서 유효한 샘플은 몇십 건에 불과해요. 전략 하나로 100건 트레이드를 모으려면 1~2년 걸립니다. 그 사이 시장 체제가 바뀌면 전략은 낡아요.
그래서 세 가지 전략을 동시에 론칭했습니다. 모멘텀, 평균회귀, 변동성 차익 전략을 각각 자본의 20%씩 배분했어요. 백테스트 수익률은 개별적으로 보면 이전 전략보다 낮았지만, 상관관계가 0.3 이하여서 분산 효과가 있었습니다. 3개월 동안 누적 수익률은 8%였지만, 최대 낙폭은 6%에 그쳤어요. 이전에는 한 전략이 무너지면 전체 계좌가 흔들렸는데, 이제는 한 전략이 -5%여도 다른 전략이 +3%, +2%를 내며 완충했습니다.
더 중요한 건 표본 속도입니다. 전략 세 개가 돌면 한 달에 샘플 60건을 모을 수 있어요. 전략 하나로는 20건이었죠. 3배 빠르게 데이터를 쌓으니, "이 전략이 지금 시장에서 작동하는지" 판단 속도도 빨라졌습니다. 2개월이면 전략 하나를 폐기하고 새 전략으로 교체할 수 있어요.
완벽한 전략보다 분산과 감정 분리가 먼저입니다
"분산하기 전에 전략 하나라도 제대로 만들어야 한다"는 말을 자주 듣습니다. 전략의 논리적 근거는 필요해요. 하지만 "제대로"의 기준이 백테스트 수익률이라면 틀렸습니다. 백테스트 샤프비율 1.5면 실전에 넣고 시장 반응을 봐야 해요. 2.0 이상은 과최적화를 의심해야 하고요. 완벽을 기다리면 론칭이 늦어지고, 표본 수집도 늦어집니다.
"감정 분리는 이상론이다. 손실 나면 당연히 불안하다." 이 반론도 듣습니다. 제 경험은 다릅니다. 포트폴리오 단위로 보면 감정의 진폭이 줄어요. 전략 A가 -8%여도 B가 +4%, C가 +2%면 전체는 -2%니까, "망했다"는 느낌이 덜합니다. 감정을 완전히 없앨 순 없지만, 구조적으로 완화할 수는 있어요.
"분산하면 수익률이 희석된다." 맞습니다. 제 이전 전략이 잘 맞는 구간에서는 48% 수익을 냈으니까요. 하지만 퀀트에서 1년 차에 40% 손실을 보고 그만두는 사람이 많습니다. 저는 분산 덕분에 2년 차를 맞았어요. 장기적으로 복리는 생존자의 몫입니다.
위험 관리가 수익률보다 먼저입니다
1년 차를 돌아보면, 제가 가장 집착했던 건 백테스트 수익률이었어요. 샤프비율, 최대 낙폭, 승률을 끌어올리는 데만 몰두했습니다. 정작 중요한 건 놓쳤어요. "이 전략이 시장 체제가 바뀌어도 버틸 수 있나?", "손실이 예상보다 클 때 내가 룰을 지킬 수 있나?" 같은 질문들이요.
지금은 새 전략을 만들 때 수익률보다 먼저 체크하는 게 있어요. 상관관계가 낮은 다른 전략과 조합할 수 있는지, 최악의 시나리오에서 손실을 감당할 수 있는지, 감정적으로 견딜 수 있는 리스크 수준인지. 백테스트 수익률이 30%여도 이 세 가지를 통과 못 하면 론칭하지 않습니다.
첫 전략을 돌릴 때 과최적화 함정을 조심해야 합니다. 백테스트가 너무 예쁘면 의심부터 하고, 실전에 넣기 전에 다른 전략 두세 개를 준비해두세요. 40% 손실은 피할 수 있습니다.
자주 묻는 질문
Q. 퀀트 트레이딩 초보가 다전략 분산을 하려면 몇 개 전략이 적당한가요? A. 제 경험상 3~5개가 적절해요. 2개는 분산 효과가 약하고, 6개 이상은 관리 부담이 커집니다. 상관관계 0.3 이하로 유지하면 세 개로도 충분한 완충 효과를 얻을 수 있어요.
Q. 감정 분리를 위해 구체적으로 어떤 루틴을 쓰나요? A. 매일 아침 포트폴리오 전체 수익률만 확인하고, 개별 전략은 주 1회만 봅니다. 손실이 나면 "이번 주 샘플 30개 중 하나"라고 스프레드시트에 기록하고, 감정을 숫자로 치환해요.
Q. 40% 손실 후 회복하는 데 얼마나 걸렸나요? A. 다전략 포트폴리오로 전환한 뒤 8개월 만에 본전을 회복했어요. 손실 -40%를 만회하려면 +67% 수익이 필요하니, 애초에 큰 손실을 안 보는 게 핵심이에요.
Q. 상관관계 0.3 이하는 어떻게 확인하나요? A. 각 전략의 일별 수익률을 스프레드시트에 기록하고, CORREL() 함수로 계산합니다. 0.3 이상이면 두 전략이 비슷한 시장 국면에서 동시에 손실을 낼 위험이 커요. 저는 0.2~-0.1 구간을 목표로 합니다.