테크 스타트업 팀이 AI 반응의 무작위성 극복에 도전, 일관성 높은 AI 모델 개발 가속

미라 무라티가 이끄는 티킹 머신스 랩(Thinking Machines Lab)이 인공지능 모델의 응답 일관성 문제를 해결하려는 연구에 나섰다. 약 20억 달러의 시드 투자와 전 오픈AI 연구진으로 구성된 초강력 팀을 보유한 이 스타트업은 최근 블로그를 통해 ‘LLM 추론에서 비결정성 극복’이라는 연구 결과를 공개했다. 현재 대부분의 언어모델은 같은 질문에 대해 매번 다른 답변을 내는 비결정성 특성을 지닌다. 이는 AI 업계에서 당연시되던 현상이지만, 티킹 머신스 랩은 이를 해결 가능한 문제로 보고 있다. 연구원 호라스 헤는 GPU 내부에서 실행되는 작은 프로그램(커널)들이 추론 과정에서 어떻게 조합되는지가 무작위성의 근본 원인이라고 지적하며, 이 조율 과정을 정밀하게 제어하면 응답의 일관성을 높일 수 있다고 주장한다. 이 기술은 기업과 과학자들이 AI를 신뢰할 수 있게 하고, 강화학습(Reinforcement Learning) 훈련의 효율성도 높일 수 있다. 강화학습은 정답에 따라 모델을 보상하는 방식인데, 응답이 불일치하면 학습 데이터가 노이즈를 일으키기 때문이다. 일관된 출력은 이 과정을 더 매끄럽게 만들 수 있다. 무라티는 이 랩의 첫 제품이 곧 공개될 예정이며, 연구자와 스타트업이 맞춤형 모델을 개발하는 데 도움이 될 것이라고 밝혔다. 구체적인 내용은 아직 미공개지만, 이번 연구 기술이 제품에 활용될 가능성은 크다. 티킹 머신스 랩은 연구 결과를 정기적으로 블로그와 코드로 공개하며 ‘공공의 이익’과 자체 연구 문화를 강화하겠다는 계획을 밝혔다. 이는 오픈AI가 초기에는 공개 연구를 약속했지만 점차 닫힌 구조로 바뀐 것과 대비된다. 이번 블로그는 실리콘밸리에서 가장 비밀스러운 AI 스타트업 중 하나의 연구 현장을 엿볼 수 있는 흔치 않은 기회다. 기술적 성과가 실제 제품으로 이어져 120억 달러의 평가액을 뒷받침할 수 있을지가 앞으로의 관건이다.