HyperAIHyperAI

Command Palette

Search for a command to run...

Qwen3.8のFP8量子化モデル、Hugging Faceで公開

アリババ傘下のQwenチームは2026年8月、オープンソース大規模言語モデル「Qwen3.8」シリーズの最新作「Qwen3.8-27B-FP8」をHugging Faceへ公開した。本モデルはQwen3.5のアーキテクチャを基盤とし、ブロックサイズ128の細粒度FP8量子化を適用しながらも推論性能をほぼ同等に維持。コード生成、エージェントワークフロー、長文コンテキスト処理、およびマルチモーダル(画像・動画)理解において大幅な性能向上を実現した。 同モデルはネイティブなビジョンランゲージモデルとして設計され、画像と動画の解析を直接的にサポートする。ベンチマーク結果では、ソフトウェアエンジニアリングタスク、ターミナル操作、長期的なオフィスワーク、数学推論、マルチモーダルツール活用など多数の指標で先行モデルや同等サイズの競合モデルを凌駕。特にエージェント型タスクにおける信頼性と多段階作業の完了率は、業界最高水準を記録している。 技術的な特徴として、推論時には内部思考プロセスをデフォルトで有効化し、サンプリングパラメータの調整により直接応答や思考の抑制が可能。推論の深さを制御するreasoning_effort機能によりコストと精度のバランスを最適化できる。マルチターンエージェント利用時には履歴の思考プロセスを保持するデフォルト設定により、コンテキストの一貫性と推論効率を向上。コンテキスト長は最大262,144トークンをネイティブでサポートし、YaRNなどのロープスケーリング技術を用いることで100万トークンまで拡張可能。動画処理についてはサンプリング設定を最適化することで長時間動画の高精度理解を実現する。 動作環境はHugging Face Transformers、vLLM、SGLang、TokenSpeedなど主要な推論フレームワークと互換性があり、FP8化によりメモリ消費を抑えつつ高密度モデルを展開可能なため、生産環境への導入が容易となっている。また、インフラ運用不要の管理型推論サービス「Qwen Cloud API」を近日公開予定。デフォルトで100万トークンのコンテキスト長と公式ビルトインツールを提供し、より大規模なビジネス用途への展開を加速させる見込み。 本公開により、オープンソースコミュニティは軽量ながら最先端のアジリティとマルチモーダル能力を兼ね備えた推論モデルを入手可能となった。実運用での最適化ガイドラインが公開されており、開発者によるエージェント基盤構築や長時間コンテキストを要する業務自動化への適用が期待されている。

関連リンク