Anthropic CEO、AI安全へ最先端維持を主張

人工知能開発企業アントロピックのダリオ・アモデイ最高経営責任者は、同社が安全性より能力開発の速度を優先しているとの批判に投稿で反論した。アモデイ氏は火曜日、安全擁護の非営利団体エンコード人工知能の戦略責任者ネーサン・キャルビン氏が月曜日に投稿した約1500語の批判に対し、約2000語で応じた。元投稿は過去1年で同社の安全約束を損なったとする9項目を挙げ、5000億ドル規模の計算資源契約や自社人工知能クロードによるモデル開発依存を問題視した。 アモデイ氏は調査活動には理解を示しつつ、方針は「責任ある開発の水準を業界全体で引き上げる」と説明。先進領域に留まる方が安全に貢献できると主張し、商業的には高コストだが安全に有益な9事例を挙げた。その中には、強力なモデル「マイソス」を限定したサイバーセキュリティパートナーへ開放、中国の国有企業へのサービス提供制限が含まれる。一方で、米議会に回覧した法案草案は危険なモデルの規制を難しくするとの批判を受け、対応を改善できた可能性を認めた。ただ同社は実績に誇りを持つと強調した。 この論争は人工知能の安全性が重要な課題となる中起きた。9月には研究機関が今後10年の「人工知能の壊滅」を警告し、アモデイ氏、オープンエーアイのサム・アルトマン氏、イーロン・マスク氏らは開発速度を落として安全策を確保する方針に同意した。アントロピックは11月に評価額2兆ドルでの新規株式公開が期待され、直近の第3四半期売上高は168億ドルだった。