XプラットフォームでAI生成ノートと人間コミュニティノートの統合パイロットプログラム開始 X（元Twitter）は2021年に「コミュニティノート」プログラムを開始し、誤った情報や誤解を招く投稿に対してユーザーがコンテクストノートを追加できるようにしました。このノートは人間により起草され、コミュニティのメンバーによる評価を通じて有用性が決定されます。評価者により有用と判断されたノートのみが投稿に表示されます。この取り組みは他のプラットフォームにも影響を与え、類似のプログラムの立ち上げにつながりました。 これまで、community-basedのフェクトチェックシステムは完全に人間により生成され、評価されていたわけですが、Xは新たにAI（large language model: LLM）を使用してノートを生成することを試みています。Xの研究者が最近公表したモデルでは、人間とAIの両方によるノート生成が組み込まれますが、どのノートが有用か否かの評価は引き続き人間に委ねられています。研究者は、AIがノートを迅速に大量生成することで、人間だけでは不可能な規模と速さでの対応が可能になると述べています。「これにより、ウェブ上で大幅に増加したコンテントにコンテクストを提供できる」と語っています。 AIノートの生成は、community feedback（RLCF）から学習することでより改善されます。これは、 diversased viewを持つコミュニティメンバーからの多様なフィードバックを通じて、ノート生成の質を高め、より正確で公平性のあるノートを作成することを目指しています。 しかし、新たなモデルにはリスクも伴います。AI生成ノートが説得力がありながらも不正確であることや、ノートが均質化される可能性があります。また、AI生成ノートの量が多いことで、人間のノート作成者が参加する頻度が低下したり、評価者が有効なノートを選別し切れない可能性もあります。 今後はさらにAIの統合が計画されており、人間の作成者を支援するAIコピロットや、評価者を支援するAI機能などが提案されています。また、人間の評価者や作成者のスクリーニング方法、既に検証されたノートの適応と再利用方法など、様々な分野での改善が検討されています。これらの人間とAIの協働方法は、コンテキスト生成の速度と規模を高めつつ、人間による多彩な視点を保つことができますが、依然として多くの試験が必要です。 最終的な目標は、「AIが何を考えるべきかをユーザーに指示するのではなく、人間がより批判的に考え、世界をより深く理解できるようサポートするエコシステムを作ること」だと研究者は強調しています。 業界関係者のコメント 「Community NotesとAIの融合は興味深い試みで、特に情報過多の中で重要な役割を果たすでしょう。ただし、人間の多様性や微妙な視点が失われることがないように、丁寧な調整が必要です」（ジェイン・サカイ氏、デジタル情報セキュリティエキスパート）。 Xは米国のサンフランシスコに本社を置く大手ソーシャルメディア企業であり、世界中の数十億のユーザーにサービスを提供しています。安全性と信頼性の向上に力を入れており、この新しいAI統合はその一環です。