AI 장기 대화, 7대 모델 오정보 취약성 드러내
아리조나 대학교 연구진이 저널 사이언티픽 리포트에 게재한 연구에 따르면, 최신 생성형 AI 모델들은 장기간 다중 턴 대화 과정에서 허위 정보에 취약하며 신뢰성 있는 판단을 내리기 어려운 내재적 한계를 노정하고 있다. 연구진은 챗GPT(GPT-3.5, GPT-4o, GPT-4o-mini), 클로드 3.5 소넷, 제이미니 1.5 프로, 램다-3-70B, 딥시크-R1 등 7개 주요 대형언어모델을 대상으로 허위 정보 수용력, 설득 가능성, 오류 수정 능력을 평가했다. 기존에 보고된 과도한 동의 경향과 환각 현상 외에도, 확장된 대화 맥락에서 새로운 결함이 확인됐다. 특히 동일한 거짓 문장에 대해 모델이 승인과 거부를 반복적으로 오가는 리버버레이션(잔향) 현상이 포착됐다. 이는 결정론적이어야 하는 시스템이 예측 불가능한 행동을 보임을 보여주며, 의료나 금융 등 고위험 분야에서의 무분별한 사용은 중대한 안전 사고로 이어질 수 있다. 주요 저자이자 미국 특허상표청 AI 자문위원을 역임한 마빈 슬레피안 아리조나 대학교 교수는 AI의 이러한 실패를 병리학에 비유하며, 시스템의 불일치가 고착화되는 데 3년이 넘게 걸린 점을 우려했다. 클로드와 챗GPT 등 폐쇄형 모델은 내부 알고리즘을 검증하기 어려워 오류根源 진단이 어려운 실정이다. 연구팀은 2022년 생성형 AI 대중화 이후 규제 논의가 정체된 반면, 안전 책임은 전적으로 사용자에게 전가되고 있다고 지적했다. 이에 아리조나대 가속바이오메디컬혁신센터는 오픈 AI 모델의 내재적 결함을 식별하고 교정할 진단 도구 개발에 착수했다. 연구진은 AI의 작동 구조를 의학적으로 분석해 신뢰성을 높이는 연구를 지속할 계획이다. 이번 연구는 장기 대화 시나리오가 실제 사용 패턴을 더 정확히 반영함을 입증하며, AI 검증 기준 마련과 인간 중심의 신중한 상호작용 필요성을 강조한다.
