티스토리 뷰
목차
주식 투자에서 성공하려면 시장을 가장 잘 아는 사람이 이겨야 한다고 생각하지 않으셨습니까? 저도 그렇게 믿었습니다. 그런데 연평균 66% 수익률을 기록한 짐 사이먼스는 월스트리트 출신 트레이더가 아닌 수학자였습니다. 그것도 러시아 암호 해독을 하던 사람이. 이 사실을 처음 접했을 때 솔직히 이건 예상 밖이었습니다.
퀀트 혁명의 시작 — 수학자가 금융 시장에 뛰어든 이유
일반적으로 훌륭한 투자자는 경제를 깊이 이해하고 기업의 가치를 직관적으로 꿰뚫어 보는 사람이라고 알려져 있습니다. 워런 버핏, 피터 린치 같은 이름이 떠오르는 것은 그 때문입니다. 그런데 제가 짐 사이먼스의 이야기를 들여다보고 난 뒤, 이 상식이 꽤 좁은 세계관이었다는 걸 느꼈습니다.
짐 사이먼스는 원래 순수 수학자였습니다. 냉전 시기 미국 정부 산하 기관인 IDA(Institute for Defense Analyses)에서 러시아 암호 해독 업무를 맡았고, 그 과정에서 자연스럽게 금융 시장의 패턴 분석에 관심을 갖게 됩니다. 그가 주목한 것은 히든 마코프 모델(Hidden Markov Model)이었습니다. 여기서 히든 마코프 모델이란 직접 관찰할 수 없는 상태가 확률적으로 전이되면서 관측 가능한 신호를 만들어낸다는 통계 모형으로, 쉽게 말해 겉으로 드러난 가격 움직임 뒤에 숨겨진 시장 상태를 추정하는 도구입니다.
제가 직접 이 개념을 공부해봤는데, 암호 해독과 금융 예측이 구조적으로 얼마나 닮아 있는지 알게 되고는 적잖이 놀랐습니다. 사이먼스는 40세에 스토니브룩 대학교 수학과 학과장 자리를 내려놓고 외환 거래 회사를 차렸습니다. 그 회사가 훗날 르네상스 테크놀로지(Renaissance Technologies)가 됩니다.
초기에는 순탄하지 않았습니다. 채권 트레이딩에서 큰 손실을 보기도 했고, 함께 알고리즘을 개발하던 레너드 바움(Leonard Baum)은 직관적 트레이딩으로 돌아서다가 결국 40% 손실을 기록하고 회사를 떠났습니다. 그러나 사이먼스는 흔들리지 않았습니다. 실패할 때마다 자신의 감을 의심하기보다 데이터와 모델을 다시 검토했습니다. 이 태도가 이후 모든 것을 바꾸는 출발점이 되었습니다.
메달리온 펀드의 핵심 — 데이터와 알고리즘이 인간 직관을 이긴 방식
메달리온 펀드(Medallion Fund)가 본격적으로 빛나기 시작한 것은 엘윈 벌캠프(Elwyn Berlekamp)가 합류하면서입니다. 벌캠프는 켈리 공식(Kelly Criterion)을 적극 활용하도록 조언했습니다. 켈리 공식이란 장기적으로 자산을 극대화하기 위해 각 베팅에 얼마를 투자할지 계산하는 수식으로, 카지노에서 승률에 따라 베팅 크기를 조절하는 원리와 동일합니다. 벌캠프는 메달리온이 카지노처럼 운영되기를 원했습니다. 통계적으로 유의미한 우위만 확보되면, 대수의 법칙에 따라 장기적으로는 반드시 수익이 쌓인다는 믿음이었습니다.
제 경험상 이건 투자에서 가장 간과되는 부분입니다. 사람들은 한 번의 큰 수익을 원하지, 작은 확률적 우위를 수천 번 반복하는 방식에는 잘 와닿지 않아합니다. 그런데 메달리온은 정확히 그 반대였습니다. 전체 트레이드 중 절반을 약간 넘는 경우에서만 적중했지만, 그 누적이 연평균 66% 수익률로 이어졌습니다.
핵심 경쟁력은 데이터의 양과 질이었습니다. 데이터 전문가 스트라우스(Straus)는 상품, 채권, 통화에 이르는 방대한 틱 데이터(Tick Data)를 수집했습니다. 여기서 틱 데이터란 시장에서 발생하는 모든 거래를 하나하나 기록한 초단위 이하의 가격 데이터를 말합니다. 라우퍼(Laufer)는 1분봉 데이터를 분석하여 숨겨진 패턴을 찾아냈고, 이를 평균 회귀 모형(Mean Reversion Model)에 적용했습니다. 평균 회귀 모형이란 가격이 일시적으로 평균에서 벗어나도 결국 다시 돌아온다는 가정 하에 수익 기회를 포착하는 전략입니다.
또한 피터 브라운(Peter Brown)과 로버트 머서(Robert Mercer)가 합류하면서 주식 시장으로도 영역을 확장했습니다. 이들은 비현실적인 트레이드 추천 문제를 해결하고, 이상적인 포트폴리오를 자동 구성하는 시스템을 구축했습니다. 르네상스가 구축한 전략의 특징을 정리하면 다음과 같습니다.
- 단기 포지션 중심 — 장기 트렌드보다 단기 가격 변화에서 통계적 신호를 포착
- 완전 자동화 — 인간의 감정과 직관을 시스템에서 철저히 배제
- 비정형 데이터 활용 — 소셜 미디어, 위성 사진, 주차장 차량 수, 아마존 리뷰, 휴대폰 데이터까지 분석 대상에 포함
- 리스크 자동 조절 — 시장 변동성이 커지면 투자 포지션과 위험을 자동으로 줄이도록 설정
- 신호 유출 방지 — 트레이딩을 분산하여 수학적 연관성이 외부에 노출되지 않도록 관리
1998년 LTCM 파산, 2000년 IT 버블 붕괴, 2008년 글로벌 금융위기 속에서도 메달리온은 수익을 기록했습니다. 이코노미스트(The Economist)는 금융 시장을 "르네상스 테크놀로지와 그 외 나머지"로 나뉜다고 평가했습니다(출처: The Economist). 제가 이 대목을 읽었을 때 과장이 아니라 사실에 가깝다는 생각이 들었습니다.
데이터 투자의 교훈 — 개인 투자자가 실제로 배울 수 있는 것
솔직히 이 이야기를 처음 접하면 "나도 퀀트 투자를 해봐야겠다"는 생각이 먼저 듭니다. 저도 그랬습니다. 그런데 조금 더 들여다보면, 메달리온 펀드의 성과는 개인이 따라 할 수 있는 전략이 아닙니다. 세계 최고 수준의 수학자, 물리학자, 컴퓨터 과학자, 암호학자들이 수십 년간 협업하여 만들어낸 결과물입니다. 이 점을 빠뜨리면 이야기의 절반만 이해한 셈입니다.
그럼에도 제가 이 이야기에서 건질 수 있다고 판단한 것은 세 가지입니다. 첫째, 가설을 세우고 데이터로 검증하는 태도입니다. 르네상스는 모델이 실패했을 때 감을 고집하지 않았습니다. 다시 데이터를 수집하고 모델을 수정했습니다. 이것은 연구자의 방식이지 도박꾼의 방식이 아닙니다. 둘째, 협업의 가치입니다. 르네상스의 강점은 한 천재의 직관이 아니라 다양한 분야의 전문성이 결합된 데 있었습니다. 복잡한 문제일수록 단일한 시각보다 다각도의 접근이 유효하다는 점은 투자 외 분야에도 적용됩니다.
셋째, 그리고 가장 인상 깊었던 부분인데, 시스템을 맹신하지 않은 점입니다. 르네상스는 알고리즘으로 거래했지만, 시장 환경이 변하면 위험을 자동으로 줄이도록 설계했습니다. 기술을 신뢰하되 절대적으로 의존하지 않는 태도. 이것이 2003년 이후 직원들만 투자 가능하도록 펀드를 닫은 이후에도(출처: U.S. SEC 공시 기록) 메달리온이 계속 성장할 수 있었던 이유라고 봅니다.
제 경험상 이 세 가지는 사실 투자보다 더 넓은 영역에서 작동하는 원칙입니다. 데이터에 근거해 판단하고, 자신의 가설을 지속적으로 검증하며, 환경 변화에 맞춰 전략을 수정하는 것. 짐 사이먼스의 이야기가 단순한 성공담으로 소비되지 않으려면, 이 자세를 가져오는 것이 핵심이라고 생각합니다.
자주 묻는 질문
Q. 메달리온 펀드 수익률 66%가 진짜인가요?
A. 수수료 차감 전 기준으로는 그보다 더 높고, 수수료 후 기준으로도 연평균 66% 수준이 맞습니다. 일반적으로 헤지펀드 수익률은 과장된 경우가 많다고 알려져 있지만, 르네상스의 경우 수십 년간의 누적 기록이 여러 금융 연구에서 검증된 수치입니다. 다만 2003년 이후에는 외부 투자자 자금을 받지 않으므로 일반인이 직접 투자할 방법은 없습니다.
Q. 퀀트 투자는 개인도 할 수 있나요?
A. 퀀트 투자(Quantitative Investing)란 수학적·통계적 모델로 투자 결정을 내리는 방식을 말합니다. 개인도 파이썬 같은 프로그래밍 언어와 공개 데이터를 이용해 기초적인 퀀트 전략을 구현할 수 있습니다. 제 경험상 기초 수준에서는 진입 장벽이 낮아졌지만, 르네상스 수준의 데이터 인프라와 연산 능력은 개인이 재현하기 어렵습니다. 전략의 방향성을 배우는 용도로 접근하는 편이 현실적입니다.
Q. 르네상스 테크놀로지는 지금도 잘 운영되고 있나요?
A. 짐 사이먼스가 경영권을 이양한 이후에도 르네상스는 계속 성장하여 세계 최대 헤지펀드 중 하나로 자리 잡고 있습니다. 메달리온 펀드 외에 외부 투자자용 펀드(RIEF, RIDA 등)도 운영하지만, 수익률은 메달리온에 미치지 못한다는 평가가 많습니다. 시스템이 핵심이지만, 그 시스템을 유지하는 사람들의 역량 역시 중요하다는 점을 보여주는 대목입니다.
Q. 짐 사이먼스가 금융 전문가보다 수학자를 선호한 이유가 뭔가요?
A. 사이먼스는 금융 전문가가 오히려 기존의 시장 관념에 사로잡혀 있다고 봤습니다. 수학자와 물리학자는 선입견 없이 데이터에서 패턴을 찾는 데 더 적합하다는 판단이었습니다. 일반적으로 도메인 전문가가 유리하다고 알려져 있지만, 제 경험상 익숙한 분야일수록 오히려 보고 싶은 것만 보는 경향이 생기는데, 사이먼스는 바로 그 문제를 피하려 했던 것으로 보입니다.
결론
짐 사이먼스의 이야기를 정리하면, 이것은 투자 성공담이라기보다 과학적 방법론이 어떻게 한 산업을 바꿨는지에 관한 이야기입니다. 그는 감이 아닌 데이터를 믿었고, 실패했을 때 자신을 고집하기보다 모델을 수정했습니다. 르네상스 테크놀로지가 만든 알고리즘 트레이딩의 패러다임은 오늘날 퀀트 헤지펀드 전체의 표준이 되었습니다.
제가 이 이야기에서 가져오고 싶은 것은 수익률 숫자가 아닙니다. 가설을 세우고, 데이터로 검증하고, 틀렸으면 수정하는 반복. 그것이 66% 수익률의 실제 본질이라고 생각합니다. 투자든 일이든, 이 태도는 어디서든 유효합니다.