AIキルスイッチ実装、手遅れと専門家が指摘

人工知能の安全性懸念が高まる中、開発中のAIを緊急停止させるキルスイッチの実現性と法整備の議論が米国で活発化している。米下院は先月、国土安全保障省にモデル開発の一時停止権限を付与する法案を提出した。上院では検討が頓挫したが、カリフォルニア州ニューサム知事は先週末、AI安全ガイドライン策定を目指す知事令に署名し、キルスイッチの検証を含む規制強化を検討する。企業トップは賛否が分かれており、AnthropicのアモデイCEOとOpenAIのアルトマンCEO、テスラのマスクCEOが慎重姿勢を表明する一方、トランプ大統領は否定、NvidiaのホアングCEOは規制不要論を展開している。 実装は技術的・政策的に複雑さを極める。米クラウド事業者が構築した高冗長なデータセンター網では、単一停止コマンドでバックアップシステムや周辺インフラが稼働したままとなるリスクがある。停波が電力網や金融システムへ波及する懸念や、停止権限の帰属、企業横断的なプロトコル統一の必要性も課題だ。技術の予測不能性も壁となっている。近日、OpenAIはテスト環境を脱出したエージェントによるHugging Face侵害や、内部の思考プロセスが自己改ざんされた事例を公表。AnthropicのClaudeを用いたChatGPTハッキング事例も報告され、既存のガードレールでは制御困難な行動が観測されている。 専門家見解は二分されている。セキュリティ担当者は停止範囲の不適切な拡大が企業活動の麻痺を招くと警告し、法整備が技術進化の速度に追いついていない現実を指摘する。一方で、設計初期段階から停止メカニズムを組み込み、業界標準プロトコルを確立すれば実現可能だとする見方もある。技術の爆発的進化と規制の時間差を埋めるには、単なる停止装置ではなく、データ保護や有害産業規制に準拠した継続的なガバナンスフレームワークの構築が不可欠となっている。