HyperAIHyperAI

Command Palette

Search for a command to run...

Mistral Large 4、Hugging Faceで公開

Mistral AI は、テキストと画像を入力にテキストを生成するマルチモーダル多言語モデル「Mistral Large 4」を Hugging Face 上で公開した。愛称 Le Chonk は、総パラメータ約1兆、アクティブ約49B、コンテキスト100万トークンのオープンウェイトの Mixture-of-Experts 構成を持つ。FP8 と NVFP4 が公式変種で、Unsloth と llama.cpp チームの GGUF 量子化版も用意される。ライセンスは Mistral Ecosystem Open-Weight License で、モデル提供サービスに制約を課す MIT 派生条件である。 同モデルは72層、隠れ次元6144、64アテンションヘッドの言語モデルを基盤に、Multi-head Latent Attention と Sparse Attention indexer を併用する。indexer はクエリごとに最大2048キー位置を選び、MoE ルーターは128専門家から4つを活性化し、共有専門家を加えて計5つの専門家が動作する。デコーダは RoPE と NoPE を3対1で組み、LeRope と KV 共有も採用した。視覚側は1.6Bの Pixtral エンコーダを使い、14×14パッチと空間マージで画像を処理する。 ベンチマークでは Coding Agent Index 49.8%、DeepSWE v1.1 61.7%、SWE-Atlas-QnA 59.4%、Terminal-Bench 4 28.3%を示し、企業業務評価でも AutomationBench 59.9%、AA-Briefcase 1393 Eloを記録した。サイバーセキュリティでは Artificial Analysis Cyber Index で82%を出し、脆弱性の再現と修正という防御作業に適用できる。マルウェア解析、脆弱性の優先順位付け、検出ルール作成にも有効だが、有害な悪用は拒否し、オープンウェイトの中では比較的強い拒否率を示す。プロンプトインジェクション耐性は Lakera B3 で93.3%だった。 公開時点で Transformers、vLLM、llama.cpp、TRL が初対応する。推論時は low、medium、high の reasoning effort を選べるが、推論は無効化できない。vLLM は NVFP4 と DSpark drafter を活用し、llama.cpp は2ビット量子化によって Apple Silicon Ultra 上での動作も可能とした。TRL による LoRA 微調整も提供され、Mistral Large 4 の生成軌跡から小規模セキュリティモデルを訓練する用途が想定される。Inference Endpoints や Dell Enterprise Hub には H200、B200、GB200/GB300 向けの最適化構成があり、運用展開がしやすい。 オープンウェイトであるため、企業は自社コード、クラッシュログ、マルウェアサンプルに基づいた閉じたセキュリティ環境を構築できる。拒否挙動を直接測定でき、検証可能な報酬を扱う強化学習環境とも接続しやすい点も特徴だ。2026年10月29日時点では Artificial Analysis Intelligence Index で5位のオープンウェイトモデルとされる。

関連リンク