티스토리 뷰
목차
솔직히 이건 예상 밖이었습니다. 평소 LMSYS 챗봇 아레나에서 LLM 순위를 꾸준히 확인해 온 제 입장에서, 중국 스타트업 Kimi가 코딩 분야 1위를 차지했다는 소식은 단순한 벤치마크 결과 그 이상으로 느껴졌습니다. 코딩 작업에서 Claude 3.5 소네트에 크게 의존하고 있던 터라, 이 결과가 기술 트렌드를 넘어 반도체 시장과 국내 증시에까지 파장을 일으키는 것을 지켜보며 꽤 복잡한 감정이 들었습니다.
Kimi의 아레나 1위, 실력인가 퍼포먼스인가
제가 직접 챗봇 아레나를 확인했을 때, Kimi가 코딩 카테고리 상단에 올라와 있는 걸 보고 눈을 의심했습니다. 챗봇 아레나(LMSYS Chatbot Arena)란 여러 AI 모델이 동일한 질문에 익명으로 답변을 생성하고, 사용자가 더 나은 쪽을 선택하는 방식으로 순위를 결정하는 블라인드 평가 플랫폼입니다. 특정 회사가 결과를 조작하기 어렵다는 점에서 현재 가장 신뢰도 높은 모델 비교 방식으로 통용됩니다(출처: LMSYS Chatbot Arena).
Kimi가 이 블라인드 테스트에서 1위를 차지했다는 사실 자체는 부정하기 어렵습니다. 하지만 어떻게 그 자리에 올랐느냐를 보면 이야기가 달라집니다. Kimi는 증류(Distillation) 방식으로 학습한 것으로 추정됩니다. 여기서 증류란, 이미 뛰어난 성능을 보이는 선두 모델의 출력 결과를 데이터로 삼아 자신의 모델을 훈련시키는 기법입니다. 쉽게 말해 고성능 모델의 답변 패턴을 흡수해 모방하는 방식입니다.
이 방식이 유효하다는 정황 증거도 있습니다. Kimi에게 자신의 이름을 물었더니 "Claude"라고 답변한 사례가 실제로 발견됐는데, 이는 Claude의 학습 데이터나 답변 방식이 증류 과정에 깊숙이 녹아들었음을 시사합니다. Anthropic도 중국 기업들의 이런 방식에 문제를 제기한 바 있으며, 서비스 약관 위반 소지가 다분합니다.
그럼에도 불구하고 Kimi는 현재 2.8조 개의 파라미터(Parameter)를 보유한 매우 대형 모델입니다. 파라미터란 AI 모델이 학습을 통해 조정하는 내부 변수의 수로, 일반적으로 많을수록 더 복잡한 추론이 가능합니다. Claude 3 Opus와 비슷한 체급이며, 이 모델을 실행하려면 최소 1.4TB의 HBM(고대역폭 메모리) 용량이 필요합니다. 여기서 HBM이란 기존 DRAM보다 데이터 전송 속도가 수십 배 빠른 고성능 메모리로, AI 연산에 필수적인 핵심 부품입니다. 즉, Kimi의 고성능은 무에서 나온 것이 아니라 막대한 하드웨어 자원을 투입한 결과라는 점을 간과해선 안 됩니다.
일부에서는 "300명짜리 스타트업이 빅테크를 이겼으니 막대한 캐펙스(CAPEX) 투자가 의미 없다"는 논리를 펼치는데, 저는 이것이 지나친 비약이라고 봅니다. 캐펙스(CAPEX)란 기업이 미래 수익 창출을 위해 지출하는 자본적 지출을 말합니다. Kimi 자체가 실제로는 거대한 자원 위에 올라서 있기 때문입니다. 고성능 모델이 보편화될수록 그 기반이 되는 GPU와 HBM 수요는 오히려 기하급수적으로 늘어난다는 본질적인 메커니즘이 있습니다.
- Kimi 개발사 문샷 AI(Moonshot AI)는 직원 300명 규모의 스타트업으로, 기업 가치는 현재 약 40조 원 수준으로 알려져 있음
- 창업자는 91년생으로 칭화대 및 카네기멜론대 출신, 메타·구글 근무 경력 보유
- Kimi 모델 실행 최소 요구 메모리: HBM 1.4TB 이상
- 종합 성능 평가: GPT-4, Claude 3 Opus에 이어 3위권으로 평가되며, 특정 3D 모델링 작업 등에서는 일관성 부족 확인
- 코딩 외 범용 성능은 구글 모델과 비슷하거나 소폭 우세한 수준
반도체 시장, 단기 충격인가 장기 호재인가
제가 삼성전자와 SK하이닉스 주식을 보유하고 있는 입장에서 Kimi 뉴스가 터졌을 때 느낀 첫 감정은 솔직히 불안함이었습니다. 실제로 Kimi 등장 소식이 알려진 날 아시아 증시, 특히 반도체 섹터가 하락하는 걸 실시간으로 확인했습니다. 과거 딥시크(DeepSeek) 등장 당시에도 비슷한 패턴이 있었는데, 그때도 시장은 "효율적인 AI가 나오면 반도체가 덜 필요해진다"는 논리로 반도체주를 팔았습니다.
그런데 제 경험상 이건 좀 다릅니다. 당시 딥시크 쇼크의 영향을 제대로 평가하는 데 최소 3~4개월이 걸렸듯이, Kimi의 실질적인 시장 영향도 지금 당장 단정짓기 어렵습니다. 오히려 고성능 AI 모델이 확산될수록 메모리 반도체, 특히 HBM 수요는 늘어날 수밖에 없습니다. Kimi 하나를 돌리는 데만 최소 1.4TB의 HBM이 필요한데, 중국에서 GLM, 딥시크, Qwen 등 수많은 고성능 모델이 추가로 출시될 예정임을 감안하면 수요 증가 시나리오는 충분히 현실적입니다.
물론 공급 측면도 있습니다. 메모리 반도체 팹(Fab)을 새로 짓는 것은 수년이 걸리는 작업입니다. 팹이란 반도체 제조 공장을 뜻하며, 고도의 클린룸 환경과 수조 원대 장비가 필요해 단기간에 캐파(Capacity·생산 능력)를 늘리는 것은 사실상 불가능합니다. 이 때문에 메모리 반도체 생산 캐파는 2027년 하반기까지는 크게 확장되기 어려울 것이라는 시각이 지배적입니다(출처: KIS 산업 분석).
중국이 자체적으로 HBM 생산을 늘리려 해도, 현재 기술 격차와 제조 공정의 복잡성을 고려하면 단기간에 삼성전자나 SK하이닉스를 따라잡는 것은 구조적으로 쉽지 않습니다. 결국 AI 모델이 고도화될수록 메모리 수요는 늘고, 공급은 제한적이라는 기본 구도는 변하지 않는다고 봅니다.
다만 현재 시장은 좋은 소식에 반응하지 않고 나쁜 소식에만 민감하게 움직이는 심리적 위축 상태입니다. 삼성전자나 SK하이닉스의 주주환원 정책 발표가 있다면 단기 반등의 트리거가 될 수 있다는 의견도 있는데, 저는 그것보다는 Kimi 같은 대형 모델들의 실제 상업화가 얼마나 빠르게 진행되느냐가 중장기 반도체 수요의 핵심 변수가 될 것이라고 생각합니다. AI 모델 시장이 명품(Claude, GPT)과 가성비(중국산 모델) 양극화로 재편되더라도, 어느 쪽이든 HBM은 필요하기 때문입니다.
자주 묻는 질문
Q. Kimi AI가 챗봇 아레나 코딩 1위를 차지한 게 진짜 실력인가요?
A. 아레나 자체의 블라인드 평가 결과는 사실이지만, Kimi가 Claude 같은 선두 모델을 증류 방식으로 모방 학습했다는 정황이 있어 독자적인 기술력으로 보기에는 무리가 있다는 의견도 많습니다. 코딩 외 범용 작업에서는 일관성 부족이 확인됐고, GPT-4나 Claude 3 Opus 대비 전반적인 종합 성능은 아직 낮은 수준입니다.
Q. Kimi가 나오면 삼성전자, SK하이닉스 주식은 팔아야 하나요?
A. Kimi처럼 고성능 AI 모델이 늘어날수록 HBM 등 메모리 반도체 수요는 오히려 증가하는 구조라는 시각도 있습니다. 단기적으로 시장이 심리적 충격을 반영해 하락할 수 있지만, 메모리 팹 캐파가 2027년 하반기까지 크게 늘지 않는 공급 제한 구도는 유지될 가능성이 높습니다. 개인적인 투자 판단은 반드시 전문가와 상담하시길 권합니다.
Q. 증류(Distillation) 방식으로 만든 AI 모델은 법적으로 문제 없나요?
A. 선두 모델의 출력 결과를 학습 데이터로 활용하는 증류 방식은 대부분의 AI 서비스 약관을 위반할 소지가 있습니다. Anthropic은 실제로 이런 방식의 기술 도용에 문제를 제기한 바 있습니다. 다만 스타트업 입장에서는 규제 위반에 따른 벌금보다 성공 시 이익이 크다는 판단 아래 과감하게 시도하는 경향이 있어, 법적 다툼이 현실화되려면 시간이 걸릴 것으로 보입니다.
Q. 중국 AI 모델들이 앞으로 Claude나 GPT를 대체할 수 있을까요?
A. 중국 AI 모델들이 테무나 알리익스프레스처럼 가성비를 앞세워 시장 일부를 빠르게 잠식할 가능성은 충분히 있다고 생각합니다. 다만 진정한 의미의 대체가 되려면 미국 최상위 모델보다 더 뛰어난 성능을 보여야 하는데, 현재 Kimi는 구글 모델과 비슷한 수준으로 평가받고 있어 아직 갈 길이 멀다는 시각도 있습니다. AI 시장이 명품과 가성비로 양극화될 가능성이 더 현실적으로 보입니다.
결론
제가 직접 챗봇 아레나를 확인하고, 반도체 주식 변동을 지켜보면서 내린 판단은 이렇습니다. Kimi의 등장은 기술적으로는 증류 방식에 기반한 효율적 모방의 결과이지 원천 기술의 혁신은 아닙니다. 그럼에도 시장이 이를 "빅테크 캐펙스 투자 무용론"으로 연결해 반도체주를 일괄 매도하는 것은 지나친 단기 반응이라고 생각합니다.
오히려 고성능 AI 모델이 더 많이, 더 싸게 보급될수록 그 기반을 떠받치는 HBM과 GPU 수요는 구조적으로 늘어날 수밖에 없습니다. 딥시크 사례에서 배웠듯, 이런 기술 변화의 실질적 영향은 최소 3~4개월은 지켜봐야 제대로 평가할 수 있습니다. 지금 당장의 주가 하락보다는 중국 AI 모델들의 실제 상업화 속도, 그리고 메모리 공급 캐파 변화를 중장기적으로 추적하는 것이 훨씬 의미 있는 판단 기준이 될 것입니다.