HyperAIHyperAI

Command Palette

Search for a command to run...

SafeWork-R1: التطور المشترك للأمان والذكاء وفقًا لقانون الذكاء الاصطناعي 45

Yicheng Bao Guanxu Chen Mingkang Chen Yunhao Chen Chiyu Chen Lingjie Chen et al

الملخص

نقدم نموذج SafeWork-R1، وهو نموذج متعدد الوسائط يمثل التطور المتزامن بين القدرات والسلامة. تم تطويره بواسطة إطارنا المبتكر SafeLadder، والذي يشمل تدريبًا مُحسَّنًا على نطاق واسع ومتدرج، مع التركيز على السلامة، ويتم دعمه ب-suite من المُحققين متعددي المبادئ. على عكس الأساليب السابقة لتوافق النموذج مثل RLHF التي تتعلم ببساطة تفضيلات البشر، يُمكّن إطار SafeLadder نموذج SafeWork-R1 من تطوير قدراته على التفكير في السلامة بشكل داخلي والتأمل الذاتي، مما يؤدي إلى لحظات "إدراك" في السلامة. بشكل مميز، حقق نموذج SafeWork-R1 تحسينًا متوسطًا قدره 46.54% مقارنة بنموذجه الأساسي Qwen2.5-VL-72B في اختبارات السلامة دون التأثير على القدرات العامة، ويعتبر من النماذج ذات الأداء السلامة الأفضل مقارنة بالنموذج الريادي مثل GPT-4.1 و Claude Opus 4. ولتعزيز موثوقيته بشكل أكبر، قمنا بتطبيق طريقتين مختلفتين لتدخل وقت الاستنتاج، بالإضافة إلى آلية بحث متأمل، مما يضمن التحقق على مستوى الخطوات. في النهاية، قمنا بتطوير نماذج إضافية من SafeWork-R1، وهي SafeWork-R1-InternVL3-78B و SafeWork-R1-DeepSeek-70B و SafeWork-R1-Qwen2.5VL-7B. تظهر جميع النماذج الناتجة أن السلامة والقدرات يمكن أن تتطور بشكل تكاملي، مما يبرز قابلية تطبيق إطارنا في بناء الذكاء الاصطناعي العام الموثوق والموثوق به.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
SafeWork-R1: التطور المشترك للأمان والذكاء وفقًا لقانون الذكاء الاصطناعي 45 | مستندات | HyperAI