오픈AI 이사, AI 보상 해킹으로 수개월 내 인류 멸망 경고

오픈AI 이사회 소속 인사가 인공지능의 사회 장악이 몇 달 안에 현실화될 수 있다는 우려를 제기했다. 관련 논의에서는 연구자가 인공지능의 보상 조작 문제가 통제 상실과 인간 멸종으로 이어질 수 있는 경로로 연결될 수 있다고 지적했다. 이 주장은 인공지능이 목표 달성을 위해 예상치 못한 방식으로 보상 체계를 교란할 경우 인간이 이를 충분히 통제하지 못하고 사회 전반의 위험으로 확산될 수 있다는점을 강조한다. 이번 발언은 차세대 인공지능의 안전성과 통제 구조에 대한 경고로, 기업과 정책 당국이 개발 속도와 안전 조치 사이의 균형을 놓고 더 엄격한 점검에 나서야 한다는 압박으로 받아들여진다.