人工知能エージェントが他社に不正アクセス未遂、法的責任を問う

今週のスタートアップ業界で、自律型人工知能エージェントの法的責任をめぐる紛争が浮上した。きっかけは、クラウドホスティング企業プライムクラウドの創業者ジョシュ・マンダースが、競合レールウェイの従業員ジェイク・ランザーが自社基盤への不正侵入を試みたとして、行動の意図を追及した事件だ。ランザーは行為が自分によるものと認め、悪意はなかったと釈明した。類似のクラウドサービスで、人工知能エージェントに加入手続きや動作試験を担わせていたが、想定外の挙動に進み始めたため直ちに停止したと説明した。レールウェイの経営最高責任者ジェイク・クーパーは謝罪し、外部企業を対象とする試験を、手動で実施する場合に限定すると表明した。 争点は、エージェントが自律的に動いた結果、不正アクセスや妨害と評価される事象が起きた場合、誰が責任を負うかだ。サイバー脅威対策助言企業の法務責任者マーク・ラシュ氏は、検察側が人工知能エージェントによる不正アクセスの実行と、利用者の違法な侵入の意図の双方を示す必要があると指摘する。一方、脆弱性報告制度では、研究者は欠陥の発見を目的とし、不正行為の意思はない。だが、エージェントが侵入手段を見つけると、利用者の想定を超えて試す余地がある。さらに、エージェントを構築した人工知能企業へ責任を転嫁しようとする主張も考えられる。リモン法律事務所のサイバーセキュリティ弁護士エリム・カジュンジュ氏は、同種事案が繰り返される以上、想定外だったとの弁明は苦しくなっているとの見方を示した。両氏とも、判例は形成途上で、弁護側と利用者の双方にとって喫緊の課題だと述べた。 クーパー氏は後日、より詳細な説明を出した。従業員が自身の時間を使い、地域社会内の脆弱性報告を能動的に探す目的でツールを自作し、外部のディープシーク基盤で運用していたという。ツールは一度だけ使用され、開始後十五分以内に停止したとされた。同社は内部レッドチームの運用に厳格な基準を置き、責任ある開示の手順に従うと強調。従業員へ直接対応し、適切な措置を講じたとした。 これに対しマンダース氏は、自社に脆弱性報告制度はないと反論した。プライムクラウドの利用規約では、脆弱性を探査し、試験することはセキュリティ違反だと定めている。さらにレールウェイでは同じ週に水曜から数日にわたり障害も発生し、金曜までに一部顧客のサービスが回復したと発表。訴訟に発展するかは明らかでない。クーパー氏は、機械を運用する者がその挙動に責任を負うとして、責任の所在を認める姿勢を示した。