OpenAI、Anthropic、GoogleがAI安全で協議継続

OpenAIのクリス・レイン氏（最高責任者）は火曜日、同社が競合であるAnthropicおよびGoogle DeepMindと少なくとも数週間にわたりAI安全性に関する協議を行っていると述べた。彼はワシントンで米議員らと対話しており、最先端AIが生み出す可能性のある壊滅的なリスクや対応するガバナンス策について議論している。 こうした取り組みを後押ししたのは、AnthropicCEOダリオ・アモデイ氏の最近の記事だ。アモデイ氏は業界に対し、最先端AI能力の拡大ペースを一時的に落とし、セキュリティ基盤構築のための時間を確保することを求めている。これに対してOpenAI CEOサム・アルトマン氏、Google DeepMind代表デミス・ハサビス氏、SpaceX AI エルロン・マスク氏が相次いでこのイニシアチブへの賛意を示した。さらにアルトマン氏は、第三者評価機関による安全管理体制導入にも前向きな姿勢を見せた。 また、3社は共同してAI標準規格機構設立に向けた検討を進めていることが報じられている。企業間の調整行為に対する独占禁止法上の懸念から、アモデイ氏は限定的な免責事項付与など行政側からの支援が必要だと提案したが、レイン氏は安全保障分野での連携にはそのような措置は不要との立場を取っている。 一方、OpenAI は両党派議員によって提出された「FRONTIER Act」関連条項も支持している。この法律案では、大規模先進型AI開発事業者に対し、認可を受けた外部監査法人を通じて継続的にリクス管理状況やセーフティ対策の実施度合いを検証することが義務付けられる予定となっている。