미스트랄 AI, 정책 적응형 안전 모델 '실드스트럴' 출시

미스트랄 AI가 NVIDIA 주관의 오픈 시큐어 AI 얼라이언스 창립 멤버로서 정책 기반 조정 기능이 강화된 오픈 가중치 다중모드 안전 분류기 Shieldstral을 Apache 2.0 라이선스로 공개했다. 기존 보안 가드레일 모델이 고정된 해저드 분류 체계에 가중치를 학습해 새로운 배포 컨텍스트에 맞출 때마다 재학습이 필요했던 한계를 넘어, Shieldstral은 안전 검증을 단순한 질의응답 작업으로 재정의한다. 사용자는 추론 단계에서 자연어로 된 보안 정책을 직접 입력할 수 있으며, 모델은 재학습 없이 즉시 해당 정책에 따른 정량화된 안전 점수를 출력한다. Shieldstral은 3B 파라미터 규모로 설계되어 단일 16GB NVIDIA GPU에서도 효율적으로 구동 가능하다. 미스트랄은 이 모델이 텍스트 안전성 평가와 다중모드 콘텐츠 검열 분야에서 7배 이상 큰 경쟁 모델의 성능을 능가하거나 동등함을 보였다고 밝혔다. 핵심 기술은 텍스트와 이미지를 통합 평가할 수 있는 단일 인터페이스 제공과 yes no 로짓을 소프트맥스 정규화하여 0과 1 사이의 연속적인 안전 점수를 도출하는 방식이다. 이를 통해 프롬프트 분류, 응답 검열, 거부 감지, 독성 탐지 등 다양한 안전 과제를 동일한 체크포인트로 처리할 수 있다. 모델 학습 과정에서는 이질적인 공개 안전 데이터셋을 통합하는 파이프라인이 구축되었다. 라벨 체계와 주석 관습이 상이한 데이터들을 공통 포맷으로 변환하고, 데이터 소스별 엄격도를 조정하여 모델의 결정 경계가 올바르게 교정되도록 했다. 또한 고정된 정책 라벨 암기를 방지하기 위해 유사한 정책 간 차이를 학습하는 대비 학습법을 적용했으며, 이미지 안전 데이터 부족 문제를 해결하기 위해 일반 이미지 데이터셋을 고품질 음성 샘플로 활용하고 시각 언어 리랭커를 통해 정제했다. 미스트랄이 자체 개발한 분산 학습 플랫폼 Forge를 기반으로 로라 미세 조정과 SLERP 방식의 가중치 병합을 거쳐 완성되었다. 미스트랄은 Shieldstral이 단일 경직된 분류 체계를 강제하던 기존 접근법에서 벗어나, 제품의 목적과 타겟 오디언스에 따라 유연하게 조정되는 차세대 보안 인프라로 자리매김할 것으로 기대한다. 향후 다국어 지원 범위 확대와 긴 문서에 대한 강건성 향상, 더 넓은 범주의 다중모드 안전 평가 기능 개발을 추진하며 개방형 생태계 기반의 기술 개선을 지속할 계획이다.