오픈소스 생성형AI, 보안 가드레일 적용으로 기업용 안정성 확보… 평가 결과 공개

오픈소스 생성형 AI 모델이 적절한 보안 가드레일을 적용하면 기업용 보안 기준을 충족하거나 초과할 수 있다는 연구 결과가 나왔다. 레이티스플로우 AI와 삼바노바가 공동 수행한 평가에 따르면, 주요 오픈소스 모델의 보안 점수는 가드레일 적용 전 평균 1.8%에서 적용 후 99.6%로 급상승했으며, 서비스 품질은 98% 이상 유지됐다. 이번 평가는 최고의 오픈소스 모델 5종을 대상으로, 기본 모델과 보안 필터링 레이어를 추가한 가드레일 모델 두 가지로 테스트했다. 공격 시나리오(예: 프롬프트 인젝션)를 시뮬레이션해 모델의 위험 대응 능력을 측정했다. 결과적으로 모든 모델이 높은 보안 수준을 확보하면서도 사용자 경험에 지장을 주지 않았다. 이 평가는 오픈소스 모델의 기업 적용 장벽을 허물며, 금융, 정부 등 규제가 엄격한 분야에서도 안전하게 도입할 수 있음을 입증했다. 특히 기업의 리스크 관리 및 준법 담당자들에게 명확한 데이터 기반 의사결정 자료를 제공한다. 레이티스플로우 AI의 페타르 차نك프 CEO는 “기업은 모델의 투명성, 통제 가능성, 검증 가능한 보안을 요구한다. 이번 평가는 오픈소스 모델이 이러한 기준을 충족할 수 있음을 입증한다”고 강조했다. 삼바노바의 하리 올트 CRO는 “금융기관과 정부 기관이 오픈소스 모델을 활용해 보다 유연하고 책임감 있는 AI 애플리케이션을 구축할 수 있게 됐다”고 평가했다. 이번 평가는 오픈소스 AI의 기업 적용을 가속화할 전환점이 될 전망이다.