연구진, AI 예술 보호 도구의 심각한 약점 공개

연구진이 말하기를, AI 예술 보호 도구는 여전히 창작자를 위험에 빠뜨릴 수 있다고 한다. 특히 디지털 예술가들이 자신의 독특한 스타일을 무단으로 복제당하는 것을 막기 위해 사용하는 두 가지 주요 예술 보호 도구인 'Glaze'와 'NightShade'에 대한 심각한 약점을 발견했다고 한다. 이 도구들은 총 900만 번 가까이 다운로드되었다. 'Glaze'는 AI 모델이 키 스타일 요소를 추출하는 능력을 저하시키는 패시브 접근 방식을 취한다. 반면 'NightShade'는 더 적극적인 방식으로 작동하여, AI 모델이 특정 예술가의 스타일을 관련 없는 개념과 연관시키도록 학습 과정을 왜곡한다. 그러나 캠브리지 대학교, 다름슈타트 공과대학교, 텍사스 주립대학교산안토니오의 연구진이 개발한 'LightShed'라는 방법을 통해 이러한 보호 기능을 우회할 수 있다. 'LightShed'는 이미지에 알려진 중독 기법이 적용되었는지를 식별하고, 이를 역공학 처리하여 중독을 제거하여 원래의 보호되지 않은 형태로 이미지를 복원한다. 실험 평가를 통해 'LightShed'는 'NightShade' 보호 이미지를 99.98%의 정확도로 감지하고, 해당 이미지에서 내장된 보호 기능을 효과적으로 제거할 수 있었다. 캠브리지 대학교 컴퓨터 과학 및 기술학부의 한나 포어스터(Hanna Foerster) 박사는 "이 결과는 'NightShade' 같은 도구를 사용하더라도 예술가들이 여전히 그들의 작품이 무단으로 AI 모델 학습에 사용될 위험이 있다는 것을 보여줍니다"라고 말했다. 포어스터 박사와 동료들은 'LightShed'를 개발한 것이 이 도구들에 대한 공격이 아니라, 더 나은 적응형 도구를 개발하기 위한 시급한 행동 촉구임을 강조했다. 다름슈타트 공과대학교의 아흐마드-레자 사델리(Ahmad-Reza Sadeghi) 교수는 "우리는 이를 방어 기술이 공존할 기회로 보고 있습니다. 우리의 목표는 이 분야의 다른 과학자들과 협력하여 선진화된 적에 대한 저항력을 가진 도구를 개발하는 것입니다"라고 설명했다. AI와 디지털 창의성의 영역은 급속히 변화하고 있다. 올해 3월, OpenAI는 일본 애니메이션 스튜디오 지브리의 스타일로 작품을 즉석에서 생성할 수 있는 ChatGPT 이미지 모델을 출시했다. 이는 다양한 바이러스적밈과 함께 이미지 저작권에 대한 광범위한 논의를 촉발시켰다. 법률 전문가들은 저작권 법이 특정 예술적 '스타일'보다는 특정 표현을 보호함으로써 지브리가 이에 대해 어떻게 대응할 수 있는지 제한적이라는 점을 지적했다. 이러한 논의 이후, OpenAI는 생존한 예술가들의 스타일로 이미지를 생성하는 일부 사용자 요청을 차단하는 프롬프트 보호 장치를 발표했다. 하지만 생성형 AI와 저작권 문제는 계속되고 있다. 최근 런던 고등법원에서는 글로벌 사진 에이전시 게티이미지즈가 런던 소재 AI 회사 스타빌리티 AI가 엄청난 양의 저작권 보호 이미지를 활용해 이미지 생성 모델을 훈련시켰다고 주장해 소송이 진행 중이다. 스타빌리티 AI는 이 주장에 맞서 이 사건이 "생성형 AI 산업에 대한 명백한 위협"이라고 반박하고 있다. 또한 지난달 디즈니와 유니버설은 AI 기업 미드저니(Midjourney)를 상대로 소송을 제기했다. 두 회사는 미드저니의 이미지 생성기가 "플라지어리즘의 무한한 구멍"이라고 비판했다. 포어스터 박사는 "우리 연구를 통해 더욱 견고하고 예술가 중심의 보호 전략을 향한 긴급 로드맵의 필요성을 강조하고자 합니다. 우리는 창작자들에게 여전히 위험에 노출되어 있다는 사실을 알려야 하며, 차세대 예술 보호 도구 개발을 위해 다른 사람들과 협력해야 합니다"라고 말했다. 한나 포어스터는 캠브리지 대학교의 다윈 칼리지 소속이다. 이 연구는 예술가들이 자신의 작품을 보호하기 위해 사용하는 현재의 보호 도구들이 여전히 심각한 약점을 가지고 있음을 노출한다. 예술계와 과학자들 사이에서 이러한 문제에 대한 협력을 촉구하며, 더 나은 보호 도구 개발을 위한 노력이 필요하다는 메시지를 전달한다. 캠브리지 대학교, 다름슈타트 공과대학교, 텍사스 주립대학교산안토니오는 이 분야의 선두 연구기관이며, 이번 연구는 디지털 예술 보호의 중요성을 재차 강조한다.