Command Palette
Search for a command to run...
Llama-3.1-FoundationAI-SecurityLLM-8B-Instruct 技術報告
Llama-3.1-FoundationAI-SecurityLLM-8B-Instruct 技術報告
概要
大規模言語モデル(LLM)は、さまざまな分野で顕著な成果を上げており、しかしサイバーセキュリティ分野への統合は、汎用的なサイバーセキュリティデータの不足、表現の複雑さ、および安全性・規制上の懸念により、依然として限られている。この課題を解決するため、我々は以前に、下流タスクにおけるファインチューニングに適したサイバーセキュリティ専用のLLM「Foundation-Sec-8B」を提案した。しかし、当該モデルはチャット形式の対話や指示の順守を想定して設計されていなかった。本報告では、汎用的なサイバーセキュリティ対話に特化して訓練された「Foundation-Sec-8B-Instruct」を公開する。Foundation-Sec-8Bを基盤として構築された本モデルは、分野特化型の知識を、指示順守能力、会話対応能力、および人間の価値観との整合性と組み合わせることで、高品質かつ関連性の高い応答を生成する。包括的な評価結果から、Foundation-Sec-8B-Instructは、Llama 3.1-8B-Instructに対してサイバーセキュリティ関連の多様なタスクにおいて優れた性能を発揮するとともに、指示順守能力においては同等の水準を維持している。また、サイバーサイバー脅威インテリジェンスおよび指示順守タスクにおいて、GPT-4o-miniと同等の競争力を有している。本モデルが、サイバーセキュリティ専門家の日常業務において不可欠なアシスタントとなることを期待している。モデルの公開は、https://huggingface.co/fdtn-ai/Foundation-Sec-8B-Instruct にて行う。