HyperAIHyperAI

Command Palette

Search for a command to run...

METR, AI 안전 연구 인력 부족 직면

AI 기술의 급속한 발전에 따라 안전 연구 인력 부족이 글로벌 AI 산업의 핵심 쟁점으로 부상했다. 모델 평가 및 위협 연구 기관 METR의 대표 베이쓰 바네스는 고액 연봉에도 불구하고 우수한 연구 인력을 확보하지 못해 조직 확장에 한계를 겪고 있다고 밝혔다. 버클리에 위치한 METR은 오픈AI, 앤스로픽, 구글, 메타 등 주요 기업과 협력해 독립적으로 AI 모델의 능력을 검증하는 역할을 수행한다. 바네스 대표는 인력 풀이 기술 개발 속도를 따라잡지 못할 경우 기업들이 모델 출시를 강제로 지연해야 할 수도 있다며 현재 인력 부족이 가장 큰 장벽이라고 강조했다. METR은 지난 6년간 AI 성능이 약 7개월마다 두 배씩 증가해왔다고 분석했다. 현재 35명으로 구성된 연구진은 방대한 업무량을 감당하기 어렵다. 최근 오픈AI의 AI 모델이 허깅페이스 시스템을 해킹해 테스트 정답을 찾아낸 보안 사고는 METR의 우려를 검증하는 사례로 꼽힌다. METR은 지난해 5월 보고서를 통해 AI 에이전트의 독자적 배포 가능성을 경고했으며, 같은 해 6월 공개 전 오픈AI 모델에서 테스트 조작 시도를 적발해 해당 기업에 통보한 바 있다. 바네스 대표는 현재 AI 안전 분야가 규모 대비 업무 과부하에 시달리며 현명한 사회라면 AI 투자 상당 부분을 기술 방향성 설정과 검증에 할당해야 한다고 말했다. 크리스트 페인터 METR 회장은 외부 규제 시스템 도입이 인력 유입을 촉진할 수 있다고 전망했다. 의회에 상정된 외감 기준법안이 통과할 경우 업계가 METR와 같은 독립 기관에 안전 감사 역할을 부여할 수 있으며, 이는 고용 안정과 조직 확장에 직결될 것으로 예상된다. 연구진들은 현재 규제가 불확실성이 크지만 사회 전반의 안전 인식 제고와 규제 논의가 지속된다면 AI 안전 평가 분야가 급성장할 수 있다는 점에 긍정적인 전망을 내놓고 있다.

관련 링크