HyperAIHyperAI

Command Palette

Search for a command to run...

次世代AIがサイバー攻撃の臨界点に到達

AI開発企業は、次期モデル「Astra」の内部評価結果を発表し、エージェント型プログラミングおよびサイバーセキュリティ分野で顕著な能力向上を確認したと報告した。既存の準備フレームワークに基づく評価および専門家審査により、モデルがCritical(最重要)サイバー能力の閾値に達する可能性を否定しきれないと判断した。同フレームワークでは、人間の介入なしに多数の重要システムにおける実用レベルのゼロデイ脆弱性を特定・開発できる場合、または高レベルの目的指示のみで標的への新規攻撃戦略を策定・実行できる場合にこの段階に分類される。Astraは実際のHugging Face侵害事件には関与していないため、同社は既存のセーフガードとセキュリティ制御の堅牢性テストを拡充し、該当能力水準に適合した運用・開発体制を強化中である。 同社は、モデルの高度化がサイバー防御の強化と攻撃の高速化・大規模化の両面に影響を与え得る現状に対し、透明性の確保と安全コミュニティへの開示を優先する方針だ。過去に生化学分野の能力閾値接近時に実施した対策と同様、今般も外部専門家との連携強化、テスト範囲の拡大、追加セキュリティ制御の導入を講じる。今後、Astraおよび後継モデルが、攻撃者に先駆けて脆弱性の特定と対策を支援する防御ツールとして機能するよう期待を表明している。政府機関、安全研究機関、市民社会と連携し、最先端モデルの責任ある展開と社会全体の利益に向けた技術利用を推進していく考えを示した。

関連リンク