AI 퀀트 시대 전략 크라우딩 위험 — 2007년 멜트다운이 주는 경고

지난달 FinRL 튜토리얼을 따라 DQN 기반 트레이딩 봇을 만들었어요. 백테스트 샤프 비율이 1.8이 나왔습니다. 그날 저녁, 비슷한 프레임워크로 비슷한 수치를 얻었다는 글을 세 군데에서 봤죠. 제 생각엔 퀀트 자동화 시대의 진짜 리스크는 백테스트 성능이 아니라 "남들과 똑같은 전략을 돌리고 있다는 것"이에요. 2007년 8월 한 주 동안 수백 개 퀀트 펀드가 연쇄 붕괴한 사건이 이걸 증명하거든요.

2007년 8월, 그 주에 무슨 일이 일어났나요?

2007년 8월 6일 주간, 퀀트 롱숏 펀드들이 기록적 손실을 냈습니다. MIT 논문에 따르면 단일 펀드가 일주일 만에 5억 달러를 잃었어요. Renaissance Technologies는 8.7% 손실, Goldman Sachs의 Global Equity Opportunities Fund는 30% 손실을 기록했습니다. 문제는 이 펀드들이 서로 독립적으로 운용됐다는 거예요.

원인은 전략 크라우딩이었습니다. NBER Working Paper 분석에 따르면 수백 개 펀드가 사실상 동일 팩터 전략을 돌리고 있었어요. 밸류, 모멘텀, 저변동성 등 팩터를 조합한 포트폴리오가 겹쳤죠. 한 펀드가 마진콜로 포지션을 청산하자 동일 종목을 보유한 다른 펀드들도 동시에 손실을 입었습니다. 강제 청산이 연쇄적으로 번졌어요.

흥미롭게도 8월 10일 급반등했어요. 청산이 끝나자 가격이 원상복구됐죠. 리스크 모델이 포착 못 한 공통 노출이 진짜 문제였습니다.

지금이 2007년보다 더 위험한 이유

2007년엔 동일 전략을 쓰려면 최소한 수백만 달러 규모 펀드가 필요했어요. 지금은 GitHub에서 FinRL 리포지토리를 clone 하면 됩니다. 15.1k stars, 3.3k forks — DQN, PPO, SAC 등 표준 알고리즘이 표준 데이터셋과 함께 공개돼 있죠.

제가 실험한 DQN 전략은 튜토리얼 그대로였어요. 하이퍼파라미터만 살짝 바꿨을 뿐입니다. 동일한 오픈소스, 동일한 데이터 소스(yfinance), 동일한 보상 함수를 쓰면 전략이 수렴할 수밖에 없거든요. 백테스트는 과거 데이터로 하니 비슷한 패턴을 학습하게 되고요.

AI 코딩 도구가 이 문제를 가속화합니다. Claude나 ChatGPT에게 "FinRL로 DQN 트레이딩 봇 만들어줘"라고 하면 비슷한 코드가 나와요. 전략 복제 비용이 0에 수렴하는 시대입니다. 2007년엔 수백 개 펀드가 문제였는데, 지금은 수천 명의 개인 퀀트가 동일 전략을 돌릴 수 있어요.

개인 규모라 크라우딩 영향이 없을 거라고요? 2007년 핵심은 규모가 아니라 유동성 구조였어요. 유동성 얕은 구간에서 비슷한 방향 주문이 몰리면 슬리피지가 폭발하죠.

그래도 백테스트 성능이 좋으면 되는 거 아닌가요?

"내 전략은 샤프 비율이 높으니까 괜찮다"는 생각이 가장 위험합니다. 2007년 펀드들도 백테스트 성과가 좋았어요. 문제는 동일한 좋은 전략을 모두가 쓸 때 생기거든요.

반론 하나 더 예상해볼게요. "AI가 내 데이터로 차별화된 전략을 만들어주지 않나요?" 제 경험상 그렇지 않았습니다. 오픈소스 프레임워크를 쓰는 순간 특징 엔지니어링, 보상 함수 설계, 하이퍼파라미터 범위가 이미 정해져 있어요. 동일한 입력(시장 데이터)에 동일한 알고리즘을 적용하면 비슷한 출력이 나올 수밖에 없죠.

"그럼 커스텀 팩터를 쓰면 되잖아요." 맞습니다. 그런데 대부분 커스텀 팩터도 논문이나 블로그에서 가져온 거예요. 고유한 신호를 만들려면 독점 데이터나 독자 리서치가 필요한데, 개인이 확보하기는 어렵죠.

전략 희소성을 어떻게 진단하나요?

제가 쓰는 체크리스트는 세 가지예요. 첫째, 내 전략이 튜토리얼이나 논문 예제와 얼마나 다른가? 둘째, 비슷한 프레임워크를 쓰는 사람이 동일 결론에 도달할 확률은? 셋째, 유동성 얕은 구간에서 내 주문이 가격에 미치는 영향은?

마지막이 핵심이에요. 백테스트는 호가창 깊이를 시뮬레이션 안 하거든요. 실제 트레이딩에서 슬리피지가 수익률을 다 먹어버릴 수 있습니다.

저는 이제 백테스트 샤프 비율보다 "이 전략을 몇 명이나 돌릴까?"를 먼저 물어봅니다. GitHub star 수, 튜토리얼 조회수, 커뮤니티 언급 빈도를 체크해요. FinRL DQN 예제는 수천 명이 봤을 겁니다. 그 중 일부라도 실제로 돌리면 크라우딩이 생기죠.

해법은 간단치 않아요. 독점 데이터 확보, 남들이 안 쓰는 알고리즘 연구, 또는 다른 시장으로 이동이 필요합니다. 제 경우엔 백테스트 결과가 좋아도 전략이 너무 흔하면 보류해요.

자주 묻는 질문

Q. 개인 규모로 돌리면 크라우딩 영향을 안 받는 거 아닌가요?

A. 유동성 구조에 따라 다릅니다. 2007년 손실이 집중된 건 유동성 높은 대형주였어요. 개인이 소형주나 신흥시장에서 비슷한 전략을 돌리면 슬리피지가 더 커질 수 있죠. 규모보다 유동성 대비 주문 크기를 봐야 합니다.

Q. AI가 시장 상황에 맞춰 전략을 바꿔주지 않나요?

A. 강화학습 에이전트가 적응해도, 학습 데이터와 보상 함수가 동일하면 비슷한 방향으로 적응합니다. 2007년 펀드들도 리스크 관리 모델이 있었지만, 모두가 동일 신호에 동일 방식으로 반응했죠.

Q. 그럼 퀀트 자동화를 포기해야 하나요?

A. 포기가 아니라 전략 희소성을 리스크 요인으로 인식하는 거예요. 백테스트할 때 "이 전략을 나 말고 몇 명이 더 돌릴까?"를 물어보세요. 오픈소스 예제 그대로 쓰는 건 위험합니다.

Q. 2007년 멜트다운 이후 규제나 시장 구조가 바뀌었나요?

A. 리스크 관리 기준이 강화됐지만, 전략 크라우딩 자체를 막는 규제는 없습니다. 오히려 AI 도구와 오픈소스로 전략 복제가 쉬워져 크라우딩 가능성은 높아졌어요.

Q. 전략 희소성을 정량적으로 측정할 방법이 있나요?

A. 완벽한 방법은 없지만, 포트폴리오 구성 종목의 보유자 분포나 거래량 집중도를 참고할 수 있어요. 실무적으론 오픈소스 사용 빈도, 커뮤니티 언급, 유사 전략 논문 수를 휴리스틱으로 봅니다.