엔비디아, 신규 AI 안전팀 구성해 오픈 모델 지원

엔비디아가 차세대 인공지능(AI) 보안과 안전성을 강화하기 위해 전담 조직을 구축하는 것으로 알려졌다. 최근 다수 채용 공고를 통해 엔비디아가 신규 AI 안전성 및 보안 엔지니어링 팀을 구성 중이며, 이 팀의 수석 기술 리더를 비롯해 보안 연구 엔지니어, 평가 엔지니어, 최고 책임자 등을 채용하고 있다는 것이다. 신규 팀은 배포 전 AI 에이전트의 안전성을 검증하고, AI 기반 소프트웨어 취약점 패치 도구를 개발하는 역할을 수행할 예정이다. 이번 조직 편성은 엔비디아가 공개 가중치 기반 오픈 모델과 AI 에이전트 시대를 선도하려는 전략적 선택을 반영한다. 채용 공고문은 오픈 가중치 모델과 투명성, 광범위한 과학적 검사가 미국의 AI 리더십과 사이버보안 방어의 핵심 기반이라고 명시했다. 젠슨 황 CEO는 최근 공개 서신을 통해 오픈 모델이 안전성과 사이버보안을 강화한다고 주장하며 미국 정책 입안자들의 지지를 호소한 바 있으며, 이에 발맞춰 Open Secure AI 얼라이언스의 창립 회원사로 합류했다. 해당 얼라이언스에는 마이크로소프트, 팔란티르, 스페이스엑스 등 120여 개 기업과 개발 커뮤니티가 참여해 있다. 업계에서는 이 같은 움직임이 단순한 기술 철학을 넘어 명확한 비즈니스 인센티브에 기인했다고 분석한다. 오픈 모델이 보편화될수록 다양한 고객사와 개발자가 플랫폼으로 유입되며, 이를 구동할 고급 GPU 수요가 자연스럽게 확대되기 때문이다. 또한 AI가 단순 대화형 챗봇을 넘어 기업 핵심 데이터에 접근하고 실시간 행동을 수행하는 에이전트로 진화하는 가운데, 안전성 검증 체계의 확립은 기업의 대규모 도입을 이끄는 신뢰의 핵심 요인으로 작용할 전망이다. 엔비디아가 안전성 전담 조직을 조기에 마련한 것은 차세대 AI 생태계에서의 표준 설정 주도권 확보와 반도체 시장 성장 기반을 선점하기 위한 전략적 포석으로 해석된다.