미국 판사 결정에 AI 오류 드러나

미국 연방 지방법원 판사가 바이오플라마 기업 코메디스(CorMedix)의 주식 관련 소송에서 소송을 기각하지 않기로 한 결정을 철회했다. 변호사들이 판사의 의견서에 가짜 인용문과 잘못된 사례 정보가 포함되어 있음을 지적했기 때문이다. 이와 같은 오류는 최근 다른 법원에서 AI 도구와 관련된 오류로 인식된 사례들과 유사하다. 앤드류 라이트만(Andrew Lichtman) 변호사는 뉴저지 주의 줄리엔 자비에 넬스(Julien Xavier Neals) 판사에게 보낸 서한에서, 넬스 판사의 결정에 "여러 가지 오류"가 포함되어 있다고 지적했다. 이 결정은 코메디스가 제기한 소송 기각 요청을 거부한 것이었으며, 다른 세 건의 사례에서 판결 결과를 잘못 기술하고, 다른 판결에 대한 가짜 인용문을 포함하고 있었다. 블룸버그 레이에 따르면, 수요일 법원에 공개된 새 통보문에는 "이 판결과 결정은 오류로 인해 발표된 것이며, 이후 새로운 판결과 결정이 이어질 것"이라고 명시되어 있다. 일반적으로 법원에서는 판결문을 발표한 후 문법, 철자, 스타일 오류 등을 수정하는 것은 흔한 일이지만, 문단을 삭제하거나 판결을 수정하는 큰 변경은 드문 경우이다. 이 사례에서 AI가 사용되었는지에 대한 확인은 아직 이뤄지지 않았다. 그러나 인용문 오류의 특징은 다른 법률 문서에서 나타난 AI의 '환각' 현상과 유사하다. 최근 변호사들이 챗GPT 같은 AI 도구를 사용해 법률 연구를 도와받는 경우가 늘어나면서 이러한 오류가 발생하고 있다. 이달 초, 마이피로우(MiPillow) 설립자 마이크 린델(Mike Lindell)을 대변하는 변호사들이 AI로 생성된 인용문을 사용한 혐의로 벌금을 받았으며, 앤트로피코(Anthropic)는 자사의 클라우드(AI 챗봇)가 음악 출판사와의 법적 분쟁에서 "부끄러운" 인용문을 생성했다고 인정했다. 이는 AI가 아직 실제 변호사 대체를 할 수 없다는 것을 보여주는 사례 중 하나이다. 이러한 사건들은 AI 기술이 법률 분야에 긍정적인 영향을 미칠 수 있지만, 동시에 중요한 주의가 필요함을 보여준다. 법률 문서는 정확한 정보와 신뢰할 수 있는 근거를 바탕으로 작성되어야 하며, AI의 오류는 법적 결정에 심각한 영향을 줄 수 있다. 법률 전문가들은 AI 도구의 사용이 점점 늘어나고 있지만, 그에 따른 검증과 감독 절차도 강화되어야 한다고 지적한다. AI는 법률 연구를 보조할 수 있는 도구이지만, 최종 결정과 인용문 작성은 여전히 인간의 판단과 검토가 필수적이다. 이러한 사례는 AI의 능력을 과장하지 말고, 그 한계와 위험성을 인식하는 것이 중요함을 강조한다. 법률 분야에서 AI의 역할은 확대되고 있지만, 인간의 전문성과 책임은 여전히 중심이 되어야 한다.