Groq, 60억 달러 평가자금 조달 협상 중

AI 칩 기업 그로크(Groq)가 최근 투자자를 대상으로 3억 달러에서 5억 달러 규모의 자금 조달을 논의하고 있다고 The Information이 보도했다. 이번 투자는 회사의 가치를 60억 달러로 평가하며, 2024년 같은 시기 28억 달러의 가치보다 두 배 이상 높아질 것으로 예상된다. 이 자금 조달은 그로크의 급격한 성장세와 연결되어 있다. 회사는 올해 매출이 지난해 9,000만 달러에서 약 5억 달러로 5배 이상 증가할 것으로 전망하고 있으며, 이는 사우디아라비아와의 주요 상업 합의 덕분이다. 올해 2월, 그로크는 사우디아라비아로부터 15억 달러의 “약속”을 받았으며, 이 자금은 사우디아라비아로의 칩 판매 확대를 위해 사용될 예정이다. 이와 더불어, 그로크는 핀란드에 데이터센터를 건설하여 인프라 구조를 더욱 확장할 계획이다. 그로크는 캐나다 캘리포니아 주 산호세에 본사를 두고 있으며, 수많은 AI 칩 시장 점유율을 노리는 스타트업 중 하나다. 그로크의 CEO 조나단 로스(Jonathan Ross)는 구글의 텐서 프로세싱 유닛(TPU, Tensor Processing Unit)의 공동 발명가로, TPU는 지금까지도 구글의 AI 시스템에서 핵심 컴퓨팅 파워를 제공하고 있다. 로스는 구글을 떠난 후, 비용 효율성, 속도, 에너지 소비량 모두에서 NVIDIA 칩을 능가하는 대체 제품 개발을 목표로 하고 있으며, 이를 위해 그로크는 새로운 프로세서 카테고리인 언어 처리 유닛(LPU, Language Processing Unit)을 도입했다. LPU는 NVIDIA의 일반적인 GPU 아키텍처와 크게 다르다. GPU는 "방사형" 아키텍처를 사용하여 계산 유닛과 메모리 사이에서 데이터를 자주 전송해야 하지만, LPU는 "프로그래밍 가능한 파이프라인" 아키텍처를 채택하여 데이터가 공장의 조립라인처럼 순차적으로 흐른다. 각 처리 유닛은 언제 데이터를 받을 것인지, 어떤 작업을 수행할 것인지, 결과를 어디로 전달할 것인지 미리 알고 있다. 이러한 설계 차이는 LPU의 SRAM 메모리 대역폭이 80TB/s에 달하는 반면, GPU의 외부 고대역폭 메모리는 8TB/s에 불과하다는 점에서 10배의 속도 우위를 제공한다. 더욱 중요한 점은 LPU의 모든 연산이 결정적이어서 소프트웨어가 각 계산 단계의 실행 시간을 정확히 예측할 수 있다는 것이다. 이는 GPU에서 거의 불가능한 일이다. 그로크의 또 다른 중요한 혁신은 "소프트웨어 우선" 설계 철학이다. 전통적인 GPU 설계는 하드웨어 중심적이어서 복잡성을 소프트웨어가 적응해야 하지만, 그로크는 먼저 컴파일러 아키텍처를 설계한 후 이를 바탕으로 하드웨어를 개발한다. 이 설계 철학은 LPU가 모델에 종속되지 않는 일반적인 컴파일러를 사용할 수 있게 해, 소프트웨어 개발 과정을 크게 단순화한다. 개발자가 각 AI 모델마다 복잡한 최적화 코드를 작성할 필요가 없어져, AI 애플리케이션의 신속한 배포와 반복 테스트가 가능하다. 그로크는 현재 주로 클라우드 서비스를 통해 수익을 창출한다. 기업들은 그로크 플랫폼을 통해 다양한 AI 애플리케이션을 실행할 수 있으며, 이 모델은 기업들이 OpenAI의 API 서비스를 구매하거나 아마존 클라우드의 AI 도구를 사용하는 것과 유사하다. 클라우드 서비스 외에도, 그로크는 칩 시스템과 데이터센터 운영 서비스를 직접 판매하며, 벨 캐나다 같은 대기업들이 고객으로 등록되어 있다. 현재 약 200만 명의 개발자와 팀이 그로크 서비스를 이용하고 있어 상당한 사용자 기반이 형성되었다. 하지만 빠른 성장에도 불구하고 그로크는 몇 가지 도전 과제를 안고 있다. 현재 약 7만 개의 칩이 온라인으로 운영되고 있지만, 이는 지난해 설정된 1분기 목표치보다 최소 30% 낮다. 또한 성능 면에서도 NVIDIA의 Hopper나 최신 Blackwell 시리즈에 비해 눈에 띄는 차이가 있다. 그럼에도 불구하고, 투자계는 그로크의 미래를 긍정적으로 평가하고 있다. 그로크는 이미 여러 유명 기관들로부터 10억 달러 이상의 투자를 유치했으며, 투자자들은 블랙록, 시스코, 삼성의 벤처캐피탈 부서, D1 캐피탈, Lee Fixel의 Addition 펀드,以及老虎环球管理等知名投资机构。 半导体行业通常需要大量的资金投入，因此类似公司都在积极寻找多元化的融资渠道，不仅仅是股权融资，债务融资也成为了重要选择。The Information的数据显示，目前24家AI芯片初创公司已累计筹集超过70亿美元的资金，这一数字仍在持续增长。行业内的其他竞争者也有各自的发展路径。专注于AI训练芯片的Cerebras去年曾计划上市，但由于监管机构对其与阿联酋科技公司G42的关系审查而暂时搁置——G42贡献了Cerebras约90%的收入，这种高度依赖关系引发了监管关注。今年5月，Cerebras的CEO在公开场合表示，公司仍希望在年内完成上市计划。 另一家值得关注的公司D-Matrix专门开发用于高效运行大型语言模型的AI芯片。知情人士透露，D-Matrix从去年开始寻求筹集2.5亿美元资金，目前已完成约1.2亿美元的融资，正在努力筹集剩余的1.8亿美元，目标总融资规模为3亿美元。此外，越来越多的芯片初创公司开始将目光投向中东市场，主要原因在于该地区NVIDIA芯片供应相对有限，为其他厂商创造了机会。例如，同样来自加州的SambaNova Systems就在为沙特阿美石油公司提供芯片系统和软件服务，帮助后者开发名为Metabrain的大型语言模型项目。 对于这些NVIDIA的挑战者而言，当前的市场环境既充满机遇也存在挑战。一方面，AI技术的快速发展确实创造了巨大的专用芯片需求；另一方面，要说服已经适应NVIDIA生态系统的开发者转换平台，仍然是一个相当复杂的过程。随着AI应用场景的不断扩展，专用推理芯片的市场需求预计将持续增长。这些挑战者的未来能否撼动4,000亿美元市值的“巨无霸”NVIDIA，让我们拭目以待。 투자 전문가들은 그로크의 성장 잠재력을 높이 평가하고 있다. 그로크는 AI 추론 시장에 집중함으로써 이미 눈에 띄는 성과를 거두고 있으며, 이는 AI 애플리케이션이 점점 더 다양해지고 확장됨에 따라 중요성이 더욱 커질 것이다. 그러나 NVIDIA의 강력한 생태계를 넘어서는 것이 쉽지 않을 것으로 보인다. 그로크는 다양한 투자자의 지원을 받아 지속적으로 혁신을 추구할 것이며, 향후 AI 칩 시장에서 중요한 역할을 할 것으로 예상된다.