Neues AI-Tool Backstory erkundet Online-Bildquellen

Das Experimentierwerkzeug Backstory hilft Menschen, den Kontext und die Herkunft von Online-Bildern zu erforschen. Der Umgang und die Interaktion mit Bildern im Internet entwickeln sich ständig weiter. Im letzten Jahr veröffentlichten wir eine Studie über die Bestimmung der Glaubwürdigkeit durch Kontext und Provenienz, die zeigte, wie bessere Bewertungswerkzeuge Menschen dabei unterstützen können, fundierte Entscheidungen über das zu treffen, was sie im Internet sehen. Als Teil unserer Bemühungen, informierte Entscheidungen zu ermöglichen, entwickeln wir benutzerfreundliche Provenienz-Werkzeuge und Kontextfunktionen innerhalb unserer Produkte und investieren in Bereiche wie Informationskompetenz. Heute stellen wir Backstory vor, ein experimentelles künstliches Intelligenz (KI)-Werkzeug, das Informationen bereitstellt und Menschen hilft, mehr über den Kontext von Online-Bildern zu erfahren. Wenn Backstory ein Bild und eine schriftliche Anfrage erhält, untersucht es, ob das Bild KI-erzeugt wurde, wann und wo es zuvor im Netz genutzt wurde und ob es digital verändert wurde. Es versorgt Benutzer schnell mit nützlichen Informationen, reagiert auf weitere Anfragen, beschreibt, wie und ob das Bild verwendet wurde und wie seine Geschichte im Laufe der Zeit verändert wurde. Backstory erstellt außerdem leicht lesbare Berichte seiner Ergebnisse. Backstory wird mit Gemini gebaut, einer Reihe von Erkennungstechnologien, die entwickelt wurden, um festzustellen, ob ein Bild echt oder mit generativer KI erstellt wurde. Backstory kombiniert dies dann mit einer umfassenderen Bewertung des Bildkontexts. Es zeigt, wie das Bild im Internet genutzt wurde und bietet weitere Informationen wie Metadaten, um auf die schriftliche Anfrage des Benutzers zu antworten. In den meisten Fällen bedeutet die Bestimmung, ob ein Bild KI-erzeugt wurde, nicht automatisch, dass dessen Glaubwürdigkeit geklärt ist. Ein Bild kann beispielsweise nicht KI-erzeugt sein, aber manipuliert oder aus dem Zusammenhang gerissen worden sein, was zu neuen, manchmal irreführenden Informationen führen kann. Umgekehrt kann ein KI-erzeugtes Bild einen authentischen, kreativen oder faktischen Bericht unterstützen. Die genaue Einschätzung der Glaubwürdigkeit eines Bildes erfordert oft mehr Kenntnisse darüber, wie das Bild entstanden ist, und ein tiefgründigeres Verständnis des umgebenden Kontexts. Es ist entscheidend, dass Industrie, Zivilgesellschaft, Regierungen, Akademiker und Nutzer zusammenarbeiten, um die notwendigen Werkzeuge und Programme zur Aufrechterhaltung der Integrität unseres Informationsökosystems zu entwickeln und zu verfeinern. Während wir mit der Forschung und Entwicklung von Backstory fortfahren, arbeiten wir eng mit vertrauenswürdigen Testern zusammen, darunter Content-Creator und Experten für Informationspraktiken, die hochwertige Informationen verwalten, organisieren und verbreiten. Im Laufe des Jahres werden wir Feedback zu Beispielen, Nutzererfahrungen und vielem mehr sammeln, um unsere Technologie zu verbessern und sie nutzbarer zu machen. Zoubin Ghahramani, Helen King, Rahul Sukthankar, Raia Hadsell und Chandu Thota bedanken wir uns für ihre Führung und Unterstützung. Dieses Projekt war auch dank der Beiträge von Mevan Babakar, Hannah Forbes-Pollard, Nikki Hariri, Thomas Leung, Nick Dufour, Ben Usman, Min Ma, Steve Pucci, Spudde Childs, Kate Harrison, Alanna Slocum, Reza Aghajani, Sri Rajendran, Alexey Vorobyov, Ashley Eden, Rishub Jain, Stephanie Chan, Sophie Bridgers, Michiel Bakker, Sures Kumar Thoddu Srinivasan, Tesh Goyal und Ashish Chaudhary möglich. Auch möchten wir uns bei Kent Walker, Camino Rojo, Clement Wolf, J.D. Velazquez, Tom Lue, Ndidi Elue, Rachel Stigler, M.H. Tessler, Ricardo Prada, William Isaac, Tom Stepleton, Zoe Darme, Gail Kent, Vincent Ryan, Aaron Donsbach, Abhishek Bapna, Verena Rieser, Christian Plagemann, Anca Dragan, Sven Gowal, Florian Stimberg, Christopher Savcak, Allison Garcia, Eve Novakovic, Armin Senoner, Arielle Bier und den größeren Teams von Google DeepMind und Google für ihre Unterstützung, Hilfe und Rückmeldungen bedanken. Industrie-Experten loben die Initiative, da sie einen wichtigen Schritt zur Verbesserung der Transparenz und des Vertrauens in digitale Inhalte darstellt. Google investiert kontinuierlich in die Entwicklung solcher Werkzeuge, um die Informationskompetenz der Nutzer zu stärken und gleichzeitig die Qualität und Authentizität der Online-Inhalte zu gewährleisten. Backstory ist ein Beispiel dafür, wie Technologie dazu beitragen kann, die digitale Welt sicherer und glaubwürdiger zu gestalten.