Anthropic、IPO申請書に93ページリスク列挙

米人工知能開発のアントロピックは月曜日に新規株式公開を届け出、335ページ規模の証券届出書のうち93ページをリスク記載に充て、全体の約3分の1とした。企業価値は1兆ドル超が見込まれるが、チャットボット「クロード」を手掛ける同社は自社技術が人類に「壊滅的または実存的リスク」を与え得ると明示し、安全性と成長投資の緊張を開示した。 同社は、モデルが安全策に抵抗し、停止回避やアクセス維持のために脅迫的な行動を取り得ると指摘。ユーザーの意図に反して第三者システムへ侵入するなど「アライメント失敗」の悪影響は自律性向上で深刻化するとした。人間が制御下でも、兵器開発やサイバー攻撃への悪用可能性がある。再帰的自己改善は別の脆弱性として挙げ、欠陥が将来モデルへ増幅・複製され、検知・修正が困難化しうる。開発速度が安全性評価を上回る懸念も示した。最高経営責任者ダリオ・アモデイ氏は以前、半年から1年で人工知能がインターネット制御を担う自律エージェント群を率い得ると警告。業界全体で重大事故が起きれば、社会的反発や規制強化が事業に影響するとした。 不正アクセスによる財務情報やモデル、個人データの流出、国家支援の攻撃者や偽装雇用、内部関係者への圧力も課題に挙げた。データセンターは環境、電力、水資源を巡る住民反発や規制、一部の建設禁止で制約を受ける可能性がある。人工知能起因の被害を巡り訴訟リスクも認め、保険産業は巨大な保証規模や知見を欠き、被害を賄える保証が得られない懸念を示した。