HyperAIHyperAI

Command Palette

Search for a command to run...

インドAI研究所Sarvam、300億・1050億パラメータモデルを公開 開発元は自前で学習、日本語以外の現地言語対応も

インドのAI研究機関、Sarvamは、新世代の大規模言語モデルを発表し、オープンソースAIの実用性への大きな賭けを表明した。同社は、米国や中国の大手企業が提供する高コストなAIシステムに比べ、効率的で小規模なオープンソースモデルが市場シェアを獲得できると確信している。この発表は、ニューデリーで開催された「India AI Impact Summit」で行われ、インド政府が外国AIプラットフォームへの依存を減らし、現地言語や用途に特化したAI開発を推進する動きと一致している。 新製品ラインナップには、300億パラメータと1050億パラメータの言語モデル、音声合成(TTS)モデル、音声認識(STT)モデル、文書解析用の視覚モデルが含まれる。これらは、2024年10月にリリースされた20億パラメータの「Sarvam 1」から劇的な進化を遂げた。特に30Bと105Bモデルは「混合専門家(MoE)」アーキテクチャを採用し、処理時に全体のパラメータの一部のみを活性化することで、計算コストを大幅に削減。30Bモデルは3万2000トークンのコンテキスト窓を備え、リアルタイム対話に最適化。105Bモデルは12万8000トークンの窓を実現し、複雑な多段階推論に適している。 これらのモデルは、既存のオープンソースモデルを微調整するのではなく、独自にゼロから学習された。30Bモデルは約16兆トークン、105Bモデルは複数のインド語を含む数兆トークンで学習された。同社は、インド語での音声アシスタントやチャットシステムといったリアルタイム応用を想定しており、105BモデルはOpenAIのGPT-OSS-120BやアリババのQwen-3-Next-80Bと競合する構えだ。 開発は、インド政府の「IndiaAIミッション」の支援を受け、データセンター企業YottaとNvidiaの技術協力のもと行われた。Sarvam共同創業者Pratyush Kumar氏は、「スケーリングは無計画に行わず、実際の課題に応じて慎重に進める」と強調。同社は、30Bおよび105Bモデルのオープンソース化を計画しているが、トレーニングデータやコードの公開については未定。また、開発者向けモデルや企業向けツール「Sarvam for Work」、対話型AIエージェントプラットフォーム「Samvaad」の開発も進めている。2023年に設立されたSarvamは、Lightspeed Venture Partners、Khosla Ventures、Peak XV Partners(旧Sequoia Capital India)などから5000万ドル以上の資金調達を実現している。

関連リンク

インドAI研究所Sarvam、300億・1050億パラメータモデルを公開 開発元は自前で学習、日本語以外の現地言語対応も | 人気の記事 | HyperAI超神経