HyperAIHyperAI

Command Palette

Search for a command to run...

ブラウザで駆動するローカル判断モデル「OpenJev」

ブラウザ上で動作するローカルAI推論環境OpenJevがオープンソースとして公開された。本プロジェクトは、ユーザーのクライアント環境のみで意思決定モデルを実行し、バックエンドへのデータ送信を一切行わないプライバシー重視の技術を実現している。Hugging Face公開のモデル重みをブラウザキャッシュに保存して動作させるため、初期ロードは環境依存するものの、オフライン推論とデータローカライゼーションを両立させた。 技術的革新性としては、同一モデルを用いて直接ログプロット読み取りとトークン単位JSON生成の2手法を定量的に比較できる点にある。前者は供給された選択肢の確率分布を直接正規化し、後者はモデル自身がJSON形式で確率を生成させる。両推論は同一GPU上を逐次実行されるため、リソース競合を抑えつつ速度と精度の差異を明確に評価できる。 対応モデルはQwen3 0.6B、MiniCPM5 2B、Qwen3.5 4Bなどを設定可能で、端末性能に応じて動的に選択できる。ベンチマークではQwen3.5 4Bが直接読み取りで81.3%、生成モードで76.6%の正答率を記録し、軽量モデルとの性能差を明確化している。ブラウザ実装は精度維持のため量化処理を施しており、ネイティブ演算とは条件が異なる点に留意が必要だ。 本プロジェクトはエッジAIの実用化に向けた検証プラットフォームとして注目される。クラウド依存を排除し、クライアントサイドのみで完結する推論パイプラインを構築したため、データ保護が必須の企業環境やネットワーク制約のある環境でのAI意思決定導入における標準的な検証ツールとなり得る。開発陣は今後、最適化手法の公開とモデル互換性の拡大により、ブラウザベースのAI実験環境としての基盤を強化する方針だ。

関連リンク