يطور باحثون تقنية لجعل الذكاء الاصطناعي المخصص آمناً
طوّر باحثون في المعهد الكوري المتقدم للعلوم والتكنولوجيا إطار عمل تدريبي جديد يحمل اسم منهجية البافر والتعزيز، يهدف إلى معالجة التحدي الرئيسي في عصر الذكاء الاصطناعي الشخصي، حيث تؤدي عمليات الضبط الدقيق للنماذج على البيانات الفردية أو المؤسسية إلى إضعاف ضوابط الأمان المدمجة فيها. يقود الفريق البروفيسور تشانغيك كم، وتسجل الباحث الدكتور سيكيل هام كأول مؤلف، مع مشاركة الدكتورين ونجون لي وجايوك جانغ في الدراسة التي حظيت باختيارها لعرض ملخص بحثي في المؤتمر الدولي للتعلم الآلي لعام 2026. تعتمد التقنية الجديدة على آلية تدريجية من مرحلتين تضمن بقاء النموذج قادراً على اكتساب المهام الجديدة دون امتصاص السلوكيات الضارة. تبدأ المرحلة الأولى بتطبيق وحدة مؤقتة تسمى بافرلورا تعمل كطبقة حماية تمنع البيانات الضارة من التأثير المباشر في النموذج الأساسي أثناء عملية الضبط الدقيق، مع السماح للنموذج بتعلم الوظائف المطلوبة بكفاءة. وبعد اكتمال التدريب، تُزال هذه الوحدة المؤقتة. تنتقل العملية بعد ذلك إلى مرحلة تعزيز الأمان عبر وحدة رينفورسلورا، التي تستخدم تقنية التحلل الرياضي من نوع QR لفصل أنواع المعلومات المختلفة، مما يتيح للنموذج الاحتفاظ بالقدرات المخصصة مع تعزيز ضوابط الأمان بشكل انتقائي ودقيق. كشفت التجارب أن الإطار الجديد يحقق توازناً دقيقاً بين الأداء المخصص والأمان، حيث انخفض معدل توليد استجابات ضارة بعد الضبط الدقيق إلى ثمانية في المئة فقط، مقارنة بعشرة وثماني في المئة في النموذج الأصلي غير المُعدّل، حتى في الحالات القصوى التي تتكون فيها جميع البيانات التدريبية من أسئلة ضارة. وبذلك، يتفوق الحل على النماذج التقليدية دون الحاجة إلى بيانات أمان إضافية خلال التدريب، وبكفاءة حسابية منخفضة نسبياً، ما يجعله قابلاً للتطبيق العملي في الخدمات المؤسسية والشخصية. يوضح البروفيسور كم أن هذه التقنية تشكل حجر أساس لتمكين المستخدمين والمؤسسات من بناء أنظمة ذكاء اصطناعي مخصصة ببياناتهم الخاصة مع ضمان بيئات تشغيل موثوقة وآمنة، مشيراً إلى دورها المحوري في تعزيز ثقة السوق بحلول عصر وكلاء الذكاء الاصطناعي والخدمات الشخصية المعتمدة على النماذج الكبيرة.
