محاذاة الأمن البناءة (CSA)
تم اقتراح محاذاة السلامة البناءة (CSA) بشكل مشترك من قبل قسم الأمن في مجموعة علي بابا وجامعة تسينغهوا، من بين جامعات أخرى، في سبتمبر 2025. وقد نُشرت نتائج البحث ذات الصلة في الورقة البحثية "[…]".أويستر-1: ما وراء الرفض - محاذاة السلامة البناءة لنماذج اللغة المسؤولة".
عادةً ما تستخدم نماذج اللغات الكبيرة (LLMs) آليات أمان لمنع توليد محتوى ضار. لا يقتصر دور أمان المحتوى (CSA) على منع الإساءة الخبيثة فحسب، بل يُرشد المستخدمين غير الضارين استباقيًا نحو نتائج آمنة ومفيدة. يتجاوز هذا النهج الدفاع السلبي والرفض الشامل، ويتجه نحو التوجيه الاستباقي والآمن والمفيد، معتبرًا الأمان مسؤولية مزدوجة: ليس فقط منع الضرر، بل أيضًا مساعدة المستخدمين على تحديد حلول مشروعة وموثوقة.
Build AI with AI
From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.