HyperAIHyperAI

Command Palette

Search for a command to run...

Nemotron 3.5 맞춤형 멀티모달 안전 기능

엔비디아는 텍스트, 이미지, 응답을 단일 문맥으로 처리하며 도메인별 맞춤형 정책 준수와 검증 가능한 추론을 지원하는 콘텐츠 안전 평가 모델 네모트론 3.5를 출시했다. 이는 기존 텍스트 중심 안전성 검증을 넘어 다중 모달리티와 다국어 환경을 포괄하는 엔터프라이즈급 솔루션으로 진화한 것이다. 네모트론 3.5의 핵심 기능은 통합 다중 모달리티 평가, 글로벌 언어 확장, 커스텀 정책 강제, 검증 가능 추론 모드다. 텍스트와 이미지를 병렬 입력해 상호작용에 기인한 정책 위반을 정확히 탐지하며, 영어를 비롯한 12개 언어 명시 학습과 140여 개 언어 제로샷 일반화를 제공해 지역별 언어 격차를 해소한다. 또한 의료 금융 등 도메인 특화 정책을 입력해 실시간으로 준수 여부를 판단하며 THINK 모드를 통해 안전 판정의 단계적 논리를 출력한다. 필요시 추론 모드를 비활성화해 저지연 실시간 검증을 병행할 수 있다. 아키텍처는 제미나이 3 4B 기반 모델에 로라 어댑터를 적용해 8GB 이상 VRAM 환경에서도 실시간 배포가 가능한 4B 파라미터 규모를 유지한다. 안전 분류 기준은 MLCommons 호환 Aegis 2.0 프레임워크를 따르며 13개 핵심 및 10개 세분화 카테고리를 포함한다. 벤치마크 결과 12개 다국어 기준 분류 정확도 96.5 RTP-LX 기준 88.8를 기록해 전반적으로 92.7의 높은 성능을 보였다. 기본 모드는 이전 버전과 동일한 저지연 프로필을 유지하며 추론 모드 활성화 시에도 컨텍스트 수축 최적화로 토큰 생성량을 50 이상 절감해 비용 효율성을 확보했다. 엔비디아는 모델과 함께 공개 학습 데이터셋도 동시 배포했다. 기존 합성 이미지 의존 문제를 해소하기 위해 실제 촬영 이미지와 다국어 샘플을 대거 포함했으며 대형 모델에서 생성한 추론 기록을 단계적으로 압축해 학습에 활용했다. 네모트론 3.5 콘텐츠 세이프티는 허깅페이스에서 NVIDIA 오픈 모델 라이선스로 공개되며 vLLM과 SGLang를 지원한다. 사전 최적화된 마이크로서비스는 빌드 엔비디아에서 제공되며 주요 추론 플랫폼에서도 즉시 사용 가능하다. 글로벌 AI 파이프라인에 대한 다국어 다중 모달리티 안전성 검증의 새로운 기준을 제시할 것으로 기대된다.

관련 링크