건설적 안전 정렬(CSA)은 알리바바 그룹 보안 부서와 칭화대학교를 비롯한 여러 대학이 2025년 9월 공동으로 제안했습니다. 관련 연구 결과는 논문 "[…]"에 게재되었습니다.Oyster-I: 거부를 넘어 – 책임 있는 언어 모델을 위한 건설적 안전 정렬".

대규모 언어 모델(LLM)은 일반적으로 유해 콘텐츠 생성을 방지하기 위해 보안 메커니즘을 구축합니다. CSA(콘텐츠 안전)는 악의적인 남용을 방지할 뿐만 아니라 악의적이지 않은 사용자를 안전하고 유익한 결과로 이끌기 위해 적극적으로 안내합니다. CSA는 수동적인 방어와 전면적인 거부를 넘어, 선제적이고 안전하며 유익한 안내를 제공하며, 보안을 이중적인 책임으로 간주합니다. 즉, 피해를 방지하는 것뿐만 아니라 사용자가 합법적이고 신뢰할 수 있는 해결책을 찾을 수 있도록 돕는 것입니다.