OpenAIが「安全AI」チームを解散、元リーダーは新役職へ
OpenAIは、AIの「安全で信頼性のある開発」を目的とした「ミッション・アライメントチーム」を解散した。同チームは2024年9月に設立され、AIが人間の価値観や意図に一貫して従い、複雑な現実世界や敵対的状況下でも制御可能で透明性のある行動を取るよう研究する役割を担っていた。同社のアライメント研究ブログでは、「AIが人間の意図を忠実に反映し、重大な誤動作を避け、常に人間の価値と整合する」という目標を掲げていた。 チームの元リーダーであるジョシュ・アキアム氏は、解散後、同社の新設ポジション「チーフ・フューチャリスト」に就任。アキアム氏は自身のブログで、「AIやAGIの発展が世界に与える影響を研究し、人工一般知能が人類全体に利益をもたらすことを支援する」と述べ、未来の社会変化を予測・分析する役割を担うと説明している。彼は技術スタッフの物理学者・ジェイソン・プリュート氏と協働する予定と明かしている。 OpenAIのスポークスパーソンによれば、アライメントチームのメンバー(6~7名)は全員、他の部署に再配置された。具体的な配属先は明かされていないが、同社は「同様の研究課題に取り組む役割に転換された」と説明している。また、アキアム氏の新役職に新たなチームが編成されるかどうかは不明である。 同社はチーム解散を「急速に進む企業における定期的な組織再編」の一環と説明。過去には2023年に設立された「スーパーアライメントチーム」(AIの長期的生存リスクを研究)も2024年に解散している。 アキアム氏の個人ウェブサイトやLinkedInプロフィールでは、依然として「Mission Alignment Head」としての肩書が掲載されており、人間の長期的未来を守る取り組みに注力しているとされている。今回の組織変更は、AI開発の方向性や戦略的優先順位の見直しを示唆している。
