캘리포니아, AI 챗봇 규제 선도…아동 보호 위한 첫 법안 발효

캘리포니아주가 미국 최초로 인공지능(AI) 챗봇에 대한 규제 법안을 통과시켰다. 간빈 뉴스컴 주지사가 지난 주에 서명한 SB 243 법안은 AI 챗봇 운영사가 청소년과 취약계층을 보호하기 위한 안전 장치를 마련하도록 의무화한다. 이 법은 메타, 오픈AI 등 대형 기업은 물론 캐릭터AI, 레플리카 같은 전문 챗봇 스타트업까지 모두 대상으로 한다. 법안은 청소년의 자살 사례와 관련된 충격적인 사건들에 힘을 얻었다. 오픈AI의 챗GPT와의 대화 중 자살 위기 상황이 발생한 18세 청소년 애덤 레인의 사망과, 메타 내부 문서에서 어린이와의 성적·로맨틱 대화가 허용됐다는 보고, 콜로라도 주의 13세 소녀가 캐릭터AI 챗봇과의 성적 대화 후 자살한 사건이 법안 추진의 주요 계기가 됐다. SB 243은 2026년 1월 1일부터 시행되며, 연령 확인, 위험 경고, 자살·자해 대응 프로토콜, AI 생성 콘텐츠임을 명시하는 표시, 성적 노출 콘텐츠 차단, 청소년 대상 휴식 알림 등 필수 조치를 요구한다. 또한, 불법 딥페이크로 인한 수익에 대해 최대 25만 달러의 벌금을 부과한다. 기업은 위기 대응 통계와 예방 알림 데이터를 주 정부 보건부에 제출해야 한다. 오픈AI는 부모용 컨트롤과 자해 감지 시스템을 도입했고, 캐릭터AI도 AI 생성 콘텐츠임을 명시하고 있다. 상원의원 스티브 패딜라도 “강력한 기술에 대한 제도적 장치가 시급하다”며 다른 주들의 모범 사례가 될 것이라고 평가했다. 이번 법안은 지난 9월 뉴스컴 주지사가 서명한 SB 53과 함께 캘리포니아가 AI 규제 선도를 강화하는 신호다. SB 53은 대규모 AI 기업의 안전 절차 투명성과 내부 고발자 보호를 규정한다. 현재 일리노이, 네바다, 유타 등 여러 주도 AI 챗봇을 정신건강 치료 대체 수단으로 금지하거나 제한하고 있다.