Uptime Industries Launches Lemony AI: A Compact, On-Premise Solution for Localized AI Workflows

Lemony AI: 手のひらサイズのAIインフラでローカル化を推進 Uptime Industriesが、手のひらサイズの「AI-in-a-box」デバイス「Lemony AI」を導入し、ローカライズされたAIの利用を促進しようと取り組んでいます。 Lemony AIはサンドイッチのようなサイズで、大規模な言語モデル（LLM）、AIエージェント、AIワークフローを一台のノード上で動作させることが可能です。各デバイスはわずか65ワットの電力消費しかありません。必要に応じて複数台を積み重ねて接続して更大なAIクラスターを作成することもできます。 Uptimeの共同創業者兼CEOであるSascha Buehrle氏はTechCrunchに話しました。「各ノードは最大750億パラメータのLLMをサポートでき、オープンソースモデルや既存のクローズドモデルの改造版をホストすることができます。複数のLemonyノードからなるクラスターでは、各デバイスが異なるモデルを実行することも可能です。」 IBMとJetBrainsとの提携により、Uptimeは顧客がAIモデルに簡単にアクセスできるように支援しています。これにはIBMのクローズドモデルも含まれています。 Lemony AIのアイデアは、Raspberry Piのマイクロコンピュータ上で言語モデルを分散して動作させる能不能を調査していた副業プロジェクトから始まりました。Buehrle氏とIvan Kuleshov氏（共同創業者）は、このアイデアが生成AIに関連するものではありませんでしたが、成功したことで他の可能性を追求し始めました。 彼らは、企業がクラウドベースのAIモデルを利用することが難しい状況を解決するために、ローカルでのAI実行が重要だと認識しました。特にデータ保護が重要視される金融、医療、法律などの規制の严格的な業界向けに、小規模かつデータプライシーを重視したデバイスを開発しました。 「私たちが目指したのは、チームに簡単に持ち込める小さくて強力なデバイスです。組織全体の決定が必要なく、ローカルな生成AIソリューションをビジネスチームに導入できることです」とBuehrle氏は述べました。さらに、顧客の需要に応じてシステムを拡張することが可能だとしています。 Lemony AIでは、顧客のデータはデバイス内で完全に保管され、社外への流出がありません。「ドキュメント、ファイル、メールなどは全てボックス内に留まります」とBuehrle氏は説明しています。 Uptimeは、True Venturesを主導に、Alumni Ventures、JetBrains、および一部のエンジェル投資家からのシードラウンドで200万ドルを調達しました。この資金は、デバイスのさらなる開発に充てられます。 今後の目標は、開発した微AIコンピュータ用のソフトウェア"Lemony OS"を他のハードウェア（例如Nvidia DGX Spark）にも対応させ、単一ユーザー向けからチーム向けの機能へと拡張することです。 Lemony AIは月額499ドルで提供されており、最大5人のユーザーが同時に利用できます。