영국 법원, 변호사들의 AI 조작 인용에 대해 엄중 경고

영국 법원이 인공지능(AI)으로 생성된 허위 인용문에 대해 변호사들에게 '심각한' 처벌을 경고했다. 잉글랜드와 웨일스 고등법원은 최근 두 건의 사건을 통해 변호사들이 업무에서 AI를 사용할 때 더욱 신중해야 한다는 메시지를 전달했다. Victoria Sharp 판사는 "ChatGPT와 같은 생성형 AI 도구들은 신뢰할 수 있는 법률 연구를 수행할 수 없다"라고 판결문에서 밝혔다. 그녀는 "이러한 도구들은 표면적으로 일관되고 타당해 보이는 답변을 생성할 수 있지만, 그 답변이 완전히 잘못될 수도 있다"라고 강조했다. 또한 "확신에 찬 주장이 단순히 거짓일 수 있다는 점을 명심해야 한다"라고 덧붙였다. 변호사들이 AI를 연구에 활용할 수는 있지만, Sharp 판사는 변호사들이 "전문적인 업무에서 이러한 연구를 사용하기 전에 권위 있는 출처를 참조하여 정확성을 확인해야 할 직업적 의무가 있다"라고 설명했다. 그녀는 미국에서도 주요 AI 플랫폼을 대표하는 변호사들이 AI로 생성된 거짓 정보를 인용하는 사례가 늘어나고 있어, "지침 준수가 보장되고 변호사들이 법원에 대한 의무를 지키도록 더 많은 노력이 필요하다"라고 지적했다. 이 판결은 바 콜렉트(The Bar Council)와 로우 소사이어티(The Law Society) 등 전문 기관들에 전달될 예정이다. 첫 번째 사건에서 한 변호사는 두 은행에 손해배상을 청구하는 남성을 지원하며 45개의 인용문을 제출했으나, 그 중 18건은 실제로 존재하지 않았으며, 다른 인용문들도 "인용된 문구를 포함하고 있지 않았거나, 주장에 근거가 되지 않았으며, 청구의 주제와 관련이 없었다"라고 Sharp 판사는 언급했다. 두 번째 사건에서는 런던 집에서 쫓겨난 남성을 대표하는 변호사가 5건의 존재하지 않는 사례를 인용했다. 이 변호사는 AI를 사용하지 않았다고 부인했지만, "Google 또는 Safari에서 나타난 AI 생성 요약"에서 인용문이 나왔을 가능성을 인정했다. 그러나 Sharp 판사는 법원이 경멸 절차를 진행하지 않기로 결정했지만, "이것은 선례가 아니다"라고 강조했다. 변호사들이 이러한 직업적 의무를 지키지 않을 경우, "심각한 징계를 받을 위험이 있다"고 Sharp 판사는 경고했다. 불이행 시 법원은 "공식 질타"부터 비용 부과, 경멸 절차, 심지어 "경찰에 통보"까지 다양한 조치를 취할 수 있다고 언급했다. 두 변호사 모두 전문 규제 기관에 신고되었거나 스스로 신고했다. 이는 변호사들이 법원에 대한 의무를 지키지 않을 때 어떤 결과가 있을 수 있는지를 보여주는 사례로, 법원의 경고가 엄격한 준수를 요구하는 것을 분명히 한다. 이 판결은 법률 분야에서 AI의 활용이 점점 확대되면서 그에 따른 부작용도 함께 증가하고 있음을 시사한다. 법률 전문가들은 AI 도구를 사용할 때 신뢰성과 정확성을 철저히 검증해야 하며, 이를 지키지 않을 경우 심각한 결과를 초래할 수 있다는 점을 유념해야 한다. 전문 기관들은 이 판결을 바탕으로 더욱 구체적이고 강력한 지침을 마련할 것으로 예상된다.