Qwen3.5/Gemma4微調整モデル「Jeff」公開、高速ゼロショット分類

独立開発チームfirelexにより、ゼロショット分類に特化した高速判断モデルスイートJeffがGitHubおよびHugging Faceで公開された。本プロジェクトはQwen3.5の0.8Bおよび2Bパラメータ版、Gemma4-E2B版をファインチューニングした小規模言語モデル群であり、既存の判断モデルJevと互換性のあるリクエスト形式を採用している。Jeffは単一フォワードパスで各選択肢の補正済み確率を出力するため、テキスト生成やパース処理を必要とせず、NVIDIA RTX PRO 6000環境で22ミリ秒、Apple M4 Max環境で28ミリ秒という極低速遅延での判断を実現する。 同プロジェクトの最も顕著な技術的実績は、クラウドGPUを一切使用せず完全にローカル環境だけで学習パイプラインを構築した点にある。教師モデルとしてQwen3.8-Flash-Nextを使用し、合成データの生成から学習、評価に至るまで全ての工程がRTX PRO 6000ワークステーションおよびMacBook上で完了した。これによりデータ流出リスクを排除し、インフラコストを大幅に削減した。ベンチマークではゼロショット状態でも基礎モデルに対して大幅に精度が向上し、分類およびグラウンディングタスクにおいてJevやAutoJev-27Bと拮抗する性能を記録した。特にFinancial PhraseBankやRAGTruthでは大規模モデルに迫るスコアを示し、ゲームプレイテストにおいても事前ルールの付与なしに適応した判断を下す能力が確認されている。 JeffはオープンソースのAutoJevレシピを基盤としつつ、小規模モデルへの学習蒸留、学習率探索の自動化、ドメイン適応向けプロンプト構造の最適化を独自実装している。フルパラメータファインチューニングにより単一GPUで数時間以内にカスタムモデルを構築可能であり、数十分のファインチューニングで未分類カテゴリへの精度を大幅に向上できる。コードはMITライセンス、モデル重みはApache 2.0ライセンスで完全公開され、開発元はTypeSafeやJev開発元とは無関係な独立プロジェクトであると明確に定位している。本ツールは、エッジデバイスやローカルPCでのリアルタイム判断処理、および高速なカテゴリ適応を必要とする開発現場にとって、軽量かつ高精度な意思決定基盤を提供するものとなる。