새로운 AI 도구 Backstory, 온라인 이미지 출처와 변조 여부 확인 돕는다.

온라인 이미지의 출처와 맥락을 탐색하는 Backstory 새로운 실험적 인공지능(AI) 도구 Backstory는 사용자들이 인터넷에서 보는 이미지의 출처와 맥락을 더욱 잘 이해할 수 있도록 돕습니다. 온라인에서 이미지를 사용하고 상호작용하는 방식은 지속적으로 진화하고 있으며, 지난해에는 맥락과 출처를 통해 신뢰성을 평가하는 방법에 대한 논문을 발표했습니다. 이 연구는 더 나은 평가 도구를 통해 사람들이 인터넷에서 보는 정보에 대해 객관적인 결정을 내릴 수 있도록 지원할 수 있다는 점을 보여주었습니다. 우리의 노력의 일환으로, 사용자가 정보를 쉽게 이해할 수 있는 출처 도구와 제품 내 맥락 기능을 개발하고, 정보 문해력과 같은 분야에 투자하고 있습니다. 오늘 우리는 Backstory를 소개합니다. Backstory는 이미지가 AI로 생성되었는지, 언제 어디서 어떻게 온라인에서 사용되었는지, 그리고 디지털로 조작되었는지를 조사하여 사용자에게 유용한 정보를 제공합니다. Backstory는 사용자의 쓰기 요청에 빠르게 응답하며, 이미지의 사용 방식과 시간이 지남에 따라 변화한 내용을 설명하고, 결과물을 쉽게 읽을 수 있는 형태로 보고서를 생성합니다. Backstory는 Gemini를 기반으로 개발되었으며, 이미지가 실제인지 AI로 생성된 것인지를 식별하기 위한 여러 검출 기술을 활용합니다. 이 도구는 이미지의 인터넷 사용 방식과 메타데이터 등의 추가 정보를 종합적으로 평가하여 사용자의 쓰기 요청에 답변합니다. 대부분의 경우, 이미지가 AI로 생성되었는지를 판단하는 것은 그것이 신뢰할 만한 것인지 판단하는 것과 동일하지 않습니다. 예를 들어, 이미지는 AI로 생성되지 않았을 수 있지만, 조작되었거나 맥락에서 벗어나 제시되어 새로운, 때때로 오도하는 정보를 생성할 수 있습니다. 반대로, AI로 생성된 이미지는 창의적이고 사실적인 이야기를 지원할 수도 있습니다. 이미지의 신뢰성을 정확히 평가하기 위해서는 이미지가 어떻게 생성되었는지와 그 주변의 맥락을 더 깊이 이해하는 것이 필요합니다. 전반적인 접근 방식을 취하는 것이 중요합니다. 산업계, 시민 사회, 정부, 학계, 사용자들이 협력하여 정보 생태계의 무결성을 유지하기 위해 필요한 도구와 프로그램을 개발하고 개선해야 합니다. Backstory의 연구와 개발을 계속하면서, 콘텐츠 생성자와 전문 정보 관리자 등 신뢰할 수 있는 테스터들과 긴밀히 협력하고 있습니다. 이들은 고품질 정보를 관리, 조직, 배포하는 역할을 합니다. 올해 동안, 우리는 다양한 사례와 사용자 경험에 대한 피드백을 수집하여 기술을 개선하고, 사용자들에게 더욱 유용하게 만들 계획입니다. Backstory의 개발과 발표에 큰 역할을 한 Zoubin Ghahramani, Helen King, Rahul Sukthankar, Raia Hadsell, Chandu Thota를 비롯한 많은 전문가들의 지원과 기여에 감사드립니다. 또한 Mevan Babakar, Hannah Forbes-Pollard, Nikki Hariri, Thomas Leung, Nick Dufour, Ben Usman, Min Ma, Steve Pucci, Spudde Childs, Kate Harrison, Alanna Slocum, Reza Aghajani, Sri Rajendran, Alexey Vorobyov, Ashley Eden, Rishub Jain, Stephanie Chan, Sophie Bridgers, Michiel Bakker, Sures Kumar Thoddu Srinivasan, Tesh Goyal, Ashish Chaudhary, Kent Walker, Camino Rojo, Clement Wolf, J.D. Velazquez, Tom Lue, Ndidi Elue, Rachel Stigler, M.H. Tessler, Ricardo Prada, William Isaac, Tom Stepleton, Zoe Darme, Gail Kent, Vincent Ryan, Aaron Donsbach, Abhishek Bapna, Verena Rieser, Christian Plagemann, Anca Dragan, Sven Gowal, Florian Stimberg, Christopher Savcak, Allison Garcia, Eve Novakovic, Armin Senoner, Arielle Bier를 포함한 Google DeepMind와 Google 팀의 모든 구성원들께도 감사의 말을 전합니다. Backstory는 이미지의 신뢰성 평가에 있어 획기적인 도구로 평가받고 있으며, 정보 생태계의 무결성을 유지하기 위한 중요한 단계로 여겨지고 있습니다. Google은 이러한 기술의 발전을 통해 사용자들이 더욱 안전하고 신뢰할 수 있는 온라인 환경을 만들기 위해 지속적으로 노력하고 있습니다.