Lujain Ibrahim Katherine M. Collins Sunnie S. Y. Kim Anka Reuel Max Lamparth et al

초록

대규모 언어 모델(LLM)은 자연어를 더 유연하게 활용할 수 있는 공동 "사고 파트너"로서의 기능을 통해 이전 기술들과 차별화된다. LLM이 헬스케어부터 개인 상담에 이르기까지 다양한 분야에서 중요한 결정에 점점 더 큰 영향을 미치는 가운데, 모델의 능력 범위를 넘어서 의존하는 '과도한 의존(overreliance)'의 위험도 증가하고 있다. 본 논문은 과도한 의존을 측정하고 완화하는 작업이 LLM 연구 및 적용 과정에서 핵심 과제가 되어야 한다고 주장한다. 먼저, 개인 수준과 사회 수준에서 과도한 의존으로 인한 위험을 종합적으로 정리한다. 이에는 고위험 오류, 거버넌스 문제, 그리고 인지 능력의 쇠퇴(인지적 탈기능화) 등이 포함된다. 그 후, LLM의 특성, 시스템 설계 요소, 사용자 인지 편향이 결합되어 실질적으로 과도한 의존에 대한 심각하고 독특한 우려를 야기한다는 점을 탐구한다. 또한, 과거 과도한 의존 측정을 위한 접근 방식을 검토하며, 세 가지 중요한 측면의 공백을 밝히고, 이를 보완할 수 있는 세 가지 유망한 방향을 제시한다. 마지막으로, 인공지능 연구 공동체가 추진할 수 있는 완화 전략을 제안함으로써, LLM이 인간의 능력을 약화시키기보다는 보완할 수 있도록 하려는 목표를 달성하고자 한다.