「Backstory：オンライン画像の真偽と背景を迅速に調査する実験的AIツール」

オンライン画像の信頼性を高める新AIツール「Backstory」 昨年来、インターネット上の画像の信頼性を評価する手法として、情報の文脈と出所の重要性に触れる論文を発表してきました。その流れを受け、私たちはユーザーがオンライン上での情報についてより賢明な判断を下せるよう、使いやすい証明力ツールや製品内での文脈機能を開発し、情報識別力向上のための取り組みに投資しています。その最新の成果として、「Backstory」という実験的なAIツールを今ご紹介します。 Backstoryは、与えられた画像と書かれた問いに対して、その画像がAIによって生成されたものかどうか、以前どこでどのように使用されたのか、またデジタル加工が施されているかどうかを調査します。このツールは、ユーザーに迅速に有用な情報を提供し、さらに具体的な問いにも応えることができます。画像がどのような経緯で利用され、その後物語がどのように変わったのかを詳しく伝えます。また、調査結果を易解な形式で報告します。 このツールは、Geminiをベースにして開発されており、多様な検出し技術を用いて画像が本物であるかどうかを判別します。その上で、画像の文脈を全体的に評価し、インターネット上でどのように使用されてきたかやメタデータなどの情報を提供することで、ユーザーの問いに答えていきます。AI生成以外でも、画像はデジタル加工や文脈からの逸脱によって信ぴょう性を失うことがあるため、信頼性の評価には画像の創出過程や周辺事情の理解が不可欠となります。 一方、AIによる画像生成は必ずしも虚偽を意図したものではなく、多くの場合、創造的な物語や事実に基づくストーリーを支持するものとなっています。バックストーリーは、このような多面的な評価を通じて、情報エコシステムの健全性維持に必要なツールやプログラムを開発・洗練することの大切さを強調しています。 今後一年間は、コンテンツクリエイターや情報識別の専門家といった、高品質な情報を取り扱う信頼できるテスターたちと密接に協力し、具体的な例やユーザーエクスペリエンスについて意見を伺うことで、テクノロジーの改善と利便性の向上を目指します。 Backstory開発チーム 開発にはZoubin Ghahramaniらがリーダーシップをとり、Mevan Babakarら多数の研究者、技術者が貢献しました。また、Google DeepMindとGoogleの広範なチームの支援も得ています。彼らの協力とフィードバックを通じて、Backstoryは着実に進化していきます。