ミストラルAIは30億パラメータのオープンプラットフォーム「Shieldstral」をリリースした。これはコンテンツモデレーションをポリシー適応型クエリタスクとして再定義したマルチモーダル安全分類器である。固定された危害カテゴリをモデル内部に埋め込む従来のガードレールモデルとは異なり、Shieldstralは推論時に自然言語で記述されたポリシーを入力として受け付け、再学習なしでテキストと画像の両方の安全性評価を統合的に実行可能にする。ライセンスはApache 2.0で、Open Secure AI Allianceの一員としてNVIDIAらと協力して展開される。 シールドストラルの技術的特徴は、モデレーションを二値クエリタスクとして枠組み直す点にある。ユーザーはテキスト、画像、またはその組み合わせに対し、自由形式の問い合わせを提示する。モデルは単一のフォワードパスでyesとnoのロジットを出力し、ソフトマックス正規化により連続した安全スコアに変換する。この設計により、プロンプト分類、応答モデレーション、拒否検出、毒性検出が単一のインターフェースで統合され、デプロイメント時の柔軟性が大幅に向上した。パラメータ数は30億と小型ながら、単一の16GB GPUで効率的に動作する。 性能面では、テキスト安全性、拒否検出、ポリシー適応性、マルチモーダルベンチマークにおいて、最大7倍の規模を持つオープンガードモデルと同等かそれ以上の性能を発揮する。この成果は、異種データの統一と差分学習の手法に起因する。同社は既存の安全データセットが持つ分類体系の不一致を解消するため、あらゆるデータを同一のインストラクション形式に変換し、照合率で厳格度を調整した。また、固定ラベルの暗記を防ぐため、モデルに類似ポリシー間の微細な境界線を見極める訓練を施し、推論時に見知らぬユーザー定義ポリシーにも汎化できるようにした。画像データについては、一般的な画像データセットを負例として補完し、ビジョンランゲージモデルによるフィルタリングでノイズを削減。LoRAとSLERPを用いて複数チェックポイントを融合させ、単一モデルで公的データ補正と微細ポリシー適応力を両立させた。 シールドストラルのリリースは、コンテキストに応じて適応する安全審査の実現に向けた一歩となる。同社は今後、多言語対応、長文コンテキストの堅牢性、およびより広範なマルチモーダル安全性の強化を進める方針だ。コミュニティによる応用開発を促進し、AI開発者の安全基準を柔軟かつ効率的に引き上げることを目指している。