양자 컴퓨팅 포트폴리오 44% 거래비용 절감 — 백테스트 수치를 어디까지 믿을 것인가

2026년 3월 arXiv에 올라온 논문 하나가 눈에 들어왔어요. 양자 근사 최적화 알고리즘(QAOA)으로 포트폴리오 리밸런싱 스케줄을 짜니 고전 방법 대비 거래비용이 44.5% 줄었다는 겁니다. 저는 이 수치를 반쯤만 믿어요. 백테스트 결과가 실거래에서 재현되는 걸 다섯 번 겪어본 적이 없거든요.

논문이 내놓은 수치는 이렇습니다

arXiv:2603.16904 논문은 S&P 500에서 10개 종목을 뽑아 2025년 한 해(249 거래일) 테스트를 돌렸어요. 훈련 기간은 2010년부터 2024년까지입니다. 유전 알고리즘(GA)으로 가중치를 최적화하고, QAOA로 리밸런싱 시점을 결정했더니 샤프 비율 0.588, 총수익 10.1%가 나왔다는 게 결론이에요.

고전 방식(10일마다 리밸런싱)은 샤프 비율 0.575였는데, 24회 리밸런싱으로 거래비용이 11.0bp 나왔대요. QAOA 방식은 8회만 리밸런싱해서 6.1bp로 줄었다고 합니다. 계산해보면 44.5% 비용 절감이죠.

Walk-forward 프레임워크를 썼고, 5번 랜덤 초기화에 4,096번 측정 샷을 돌렸다고 명시돼 있어요. Ledoit-Wolf 수축 공분산 추정으로 추정 오차를 줄였다는 점도 눈에 띕니다.

제가 백테스트 수치를 의심하는 이유

2021년 봄에 모멘텀 전략 하나를 백테스트했을 때가 생각나네요. 2015년부터 2020년까지 데이터로 돌리니 연 15% 수익에 샤프 비율 1.2가 나왔어요. 그해 5월에 실계좌로 돌렸더니 3개월 만에 수익률이 -4%로 뒤집혔습니다.

문제는 세 가지였어요. 슬리피지를 0.05%로 가정했는데 실제론 0.2%가 넘었고, 시장 변동성이 훈련 기간보다 50% 높았거든요. 백테스트 코드엔 분할매매 로직이 없어서 큰 주문이 체결가를 밀어 올렸던 것도 한몫했죠.

양자 컴퓨팅 논문도 비슷한 함정이 있을 거라고 봐요. 거래비용을 6.1bp라고 했는데, 실제 시장에서 10개 종목을 한 번에 리밸런싱하면 호가창이 얼마나 움직일지 논문엔 안 나와 있어요. 2025년 한 해만 테스트했다는 것도 표본이 너무 적습니다. 2022년처럼 금리가 급등하는 장에선 어떤 결과가 나올지 알 수 없죠.

제 경험상 백테스트 성과의 60%만 실거래에서 재현되면 성공이에요. 44.5% 절감이 실제론 25% 정도일 거라고 봅니다.

백테스트 조건을 다 믿어도 되나요?

논문엔 Sharpe 비율 0.588이라는 수치가 나오는데, 이게 2025년 한 해 동안만 측정한 거예요. 샤프 비율은 기간에 따라 크게 요동치거든요. 제가 2019년에 운용했던 전략은 그해 샤프 비율이 0.9였는데, 2020년엔 0.3으로 떨어졌어요. 1년 성과만 보고 전략을 확신하긴 어렵다는 뜻이죠.

또 하나, 논문은 생존 편향을 피했다고 했지만 그건 2010년 이후 데이터에만 해당돼요. 2008년 금융위기 같은 극단 시나리오는 훈련에 포함되지 않았을 가능성이 큽니다. QAOA가 리밸런싱 시점을 8번으로 줄인 건 좋은데, 그 8번이 위기 직전엔 어떻게 작동했을지 논문엔 없어요.

거래비용도 고정값(bp)으로 가정한 게 함정이에요. 실제 시장에선 변동성이 높아지면 스프레드가 2배로 벌어지거든요. 2020년 3월에 VIX가 80 찍었을 때 제 계좌는 거래비용이 평소의 3배 나왔습니다.

그럼 이 수치가 완전히 쓸모없다는 건가요?

아니에요. 반대 의견도 들어보죠. "QAOA가 리밸런싱 횟수를 3분의 1로 줄였는데도 성과가 더 좋았다는 건 분명한 개선 아닌가요?"라고 물으실 수 있어요. 맞습니다. 8회 대 24회 차이는 눈에 보이는 효율이죠.

하지만 이건 QAOA만의 성과가 아니에요. 논문이 유전 알고리즘으로 가중치를 최적화한 게 더 큰 기여를 했을 수도 있거든요. QAOA 없이 고전 방식으로만 리밸런싱 시점을 줄여도 비슷한 결과가 나올 가능성이 있어요. 논문엔 그 대조군 실험이 없습니다.

"Walk-forward 방식으로 미래 편향을 제거했으니 신뢰할 만하지 않나요?"라는 반론도 있겠죠. 네, 그 부분은 인정해요. 하지만 워크포워드로 검증했다고 해서 실거래 슬리피지까지 재현되진 않아요. 제가 2023년에 돌린 전략도 워크포워드 검증은 통과했는데 실거래에선 호가 충격으로 수익률이 반토막 났거든요.

"논문이 Ledoit-Wolf 수축 추정을 써서 추정 오차를 줄였다는 건 방법론이 탄탄하다는 증거 아닌가요?" 이건 맞아요. 공분산 추정 개선은 분명 가치가 있습니다. 다만 그게 44.5% 절감의 핵심인지, QAOA의 기여인지는 논문만으론 구분하기 어려워요.

실무자는 이 수치를 어떻게 받아들여야 할까요

제 결론은 이래요. 논문의 방법론은 배울 게 많지만, 44.5%라는 수치는 실거래 전제로 쓰기엔 이릅니다. 대신 "QAOA가 리밸런싱 횟수를 줄이는 방향으로 작동한다"는 아이디어만 가져가는 게 안전해요.

실전에 쓰려면 최소 3년 아웃오브샘플 테스트를 돌려보고, 슬리피지를 0.3% 이상으로 가정해야 합니다. 변동성 레짐별로 성과를 쪼개서 보는 것도 필수고요. 2022년 같은 고금리 장, 2020년 같은 패닉장에서도 버텨낸다는 증거가 있어야 실계좌에 넣을 수 있죠.

QAOA 자체는 흥미로운 접근이에요. 다만 "44% 줄였다"는 수치를 곧이곧대로 믿고 전략을 짜진 마세요. 백테스트는 출발점이지 결론이 아니니까요.

관련 글로 백테스트 함정을 더 파고든 글이 있다면 링크 걸게요.

자주 묻는 질문

Q. QAOA가 정확히 뭔가요?

A. Quantum Approximate Optimization Algorithm의 약자로, 조합 최적화 문제를 양자 컴퓨터로 근사해 푸는 알고리즘입니다. 이 논문에선 "언제 리밸런싱할지" 스케줄을 QUBO(이차 무제약 이진 최적화) 문제로 바꿔서 QAOA에 넣었어요.

Q. 백테스트 샤프 비율 0.588이면 좋은 건가요?

A. 절대 수치론 나쁘지 않지만, 2025년 249 거래일만 측정한 거라 판단하긴 이릅니다. 최소 3년 이상 기간에서 0.5 이상이 유지되는지 봐야 해요.

Q. 실거래에선 몇 %나 성과가 떨어지나요?

A. 제 경험상 백테스트 대비 실거래 수익률은 평균 40% 정도 줄어들었어요. 슬리피지, 호가 충격, 시스템 지연이 주 원인이죠. 변동성 높은 장에선 격차가 더 벌어집니다.

Q. 그럼 양자 컴퓨팅 포트폴리오 연구는 의미 없나요?

A. 아니에요. 방법론 자체는 가치 있습니다. 다만 논문 수치를 실무 전략으로 바로 쓰기엔 검증이 부족하다는 거죠. 아이디어를 가져와 자기 데이터로 재검증하는 게 현명한 접근입니다.