카알리포니아 상원의원, AI 안전 보고서 의무화 재추진

캘리포니아 주 상원의원 스콧 와이너는 8일 최신 법안인 SB 53에 새로운 수정안을 제출하며, 세계 최대 AI 기업들이 안전 및 보안 프로토콜을 공개하고 안전 사고가 발생할 때 보고서를 발표하도록 요구하는 법안을 재추진하고 있다. 이 법안이 서명되면 캘리포니아는 OpenAI, 구글, 앤트로피크, xAI 등의 선두 AI 개발업체에 대해 유의미한 투명성 요구사항을 처음으로 적용하는 주가 될 것이다. 와이너 상원의원의 이전 AI 법안인 SB 1047은 비슷한 안전 보고서 공개 요구사항을 포함했으나, 실리콘밸리에서 강력하게 반대하자 개빈 뉴섬 주지사가 거부권을 행사했다. 이후 뉴섬 주지사는 스탠퍼드 대학 연구자이자 월드랩스 공동창립자인 페이페이 리 등 AI 분야 전문가들을 중심으로 정책 그룹을 구성해 캘리포니아주의 AI 안전 노력 목표를 설정하도록 요청했다. 이 정책 그룹은 최근 최종 권고안을 발표하며 "산업계에 시스템 정보를 공개하도록 하는 요구사항"이 "강력하고 투명한 증거 환경"을 확립하기 위한 필요 조건이라고 밝혔다. 와이너 상원의원실은 성명을 통해 SB 53의 수정안이 이 보고서의 영향을 많이 받았다고 밝혔다. "법안은 계속해서 발전 중이며, 앞으로 몇 주 동안 모든 이해관계자들과 함께 이 제안을 가장 과학적이고 공정한 법률로 다듬어 나갈 것을 기대하고 있습니다,"라고 와이너 상원의원은 성명에서 말했다. SB 53은 뉴섬 주지사가 SB 1047이 실패한 점을 극복하려는 시도로, 캘리포니아의 AI 산업 성장을 저해하지 않으면서도 최대 AI 개발업체에 대한 유의미한 투명성 요구사항을 도입하고자 한다. 이 법안은 또한 AI 연구소 직원들이 회사의 기술이 사회에 "중요한 위험"을 초래한다고 믿을 경우 고발자 보호를 제공한다. 여기서 "중요한 위험"은 100명 이상의 사망이나 부상, 또는 10억 달러 이상의 손실을 의미한다. 또한 SB 53은 스타트업과 연구원들이 대규모 AI를 개발할 수 있도록 지원하는 공공 클라우드 컴퓨팅 클러스터인 CalCompute를 창설하는 것을 목표로 한다. 이 법안은 이전의 SB 1047과 달리 AI 모델 개발업체가 AI 모델의 피해에 대한 책임을 지도록 하지 않으며, 선두 AI 개발업체의 AI 모델을 미세조정하거나 오픈 소스 모델을 사용하는 스타트업과 연구원들에게 부담을 주지 않도록 설계되었다. 새로운 수정안으로 SB 53은 이제 캘리포니아 주 하원의 개인 정보 및 소비자 보호 위원회에서 승인을 받아야 한다. 여기를 통과하면, 법안은 뉴섬 주지사의 책상에 오르기 전 여러 입법 기관을 거쳐야 한다. 미국 동부의 캐시 호룰 주지사는 유사한 AI 안전 법안인 RAISE Act를 검토 중이다. 이 법안 역시 큰 AI 개발업체가 안전 및 보안 보고서를 발표하도록 요구한다. 최근 연방 의회는 AI 규제의 "패치워크"를 방지하기 위해 주별 AI 규제 10년 유예를 제안했으나, 이 제안은 7월 초 99대 1로 부결되었다. "AI가 안전하게 개발되는 것은 논란의 여지가 없어야 합니다. 이는 기본적인 요구사항입니다,"라고 전 Y 콤바이너터 회장 제프 랄스턴은 TechCrunch에 성명을 통해 말했다. "국회는 이를 주도해야 하고, 기업들이 최첨단 모델을 개발하면서 투명성과 책임감을 갖도록 해야 합니다. 그러나 심각한 연방 차원의 조치가 이루어지지 않는 현재 상황에서는 주정부가 앞장서야 합니다. 캘리포니아의 SB 53은 주정부의 리더십을 잘 보여주는 사례입니다." 현재까지 법안들은 AI 기업들의 주정부 의무 투명성 요구사항에 대한 동의를 얻지 못하고 있다. 앤트로피크는 AI 기업의 투명성 증대 필요성을 지지하며, 캘리포니아 AI 정책 그룹의 권고안에 대해 온건한 낙관론을 표명했다. 그러나 오픈AI, 구글, 메타 등의 기업들은 이러한 노력에 더 저항적이었다. 예를 들어, 구글은 가장 진보한 AI 모델인 제미니 2.5 프로의 안전 보고서를 몇 달 후에야 발표했으며, 오픈AI도 GPT-4.1 모델에 대한 안전 보고서를 발표하지 않았다. 이후 제3자 연구에서 GPT-4.1 모델이 이전 AI 모델보다 덜 일치된다는 결과가 나왔다. SB 53은 이전 AI 안전 법안보다는 온화한 버전이지만, 여전히 AI 기업들이 지금보다 더 많은 정보를 공개하도록 강제할 수 있다. 와이너 상원의원이 다시 한 번 이 경계를 시험하고 있는 만큼, AI 기업들은 법안의 진행을 주목하고 있다. 이 법안은 AI 산업의 투명성을 높이는 중요한 단계로, 업계 전문가들은 이를 긍정적으로 평가하고 있다. 특히, 주정부 차원에서 AI 안전에 대한 규제를 마련하는 것이 연방 차원의 조치가 없는 상황에서 필요하다는 의견이 많다. 캘리포니아의 SB 53은 이러한 목표를 달성하기 위한 첫 걸음으로, 다른 주들에서도 비슷한 법안을 제출할 가능성이 있어 주목받고 있다.