OpenAI يوقف عمليات استخراج الاستدلال واسعة النطاق

كشفت شركة OpenAI في 30 سبتمبر أنها اكتشفت وأوقفت عملية واسعة النطاق لـ"التقطير العدائي". ظهرت الأنشطة ذات الصلة لأول مرة في 1 يوليو، حيث حاول المشغلون عبر استدعاءات منهجية للنماذج استخراج الاستدلالات المحمية التي لا تظهر في الردود العادية، بهدف تدريب نماذج أخرى أو نسخها أو تحسينها. بين 24 و25 يوليو، رصدت OpenAI حوالي 16 ألف طلب ذي صلة من أكثر من 4000 مستخدم؛ وكشف تحقيق إضافي أن أنماطًا مشابهة من المطالبات شملت أكثر من 15 ألف مستخدم، وتمكنت الشركة من إكمال المعالجة قبل 28 يوليو. شملت أساليب الهجوم نسخ استدلالات مشفرة من محادثة واحدة، ثم مطالبة نموذج في محادثة أخرى بفك تشفيرها ونسخ محتواها. أكدت OpenAI أن المشغلين لم يخترقوا التشفير، أو يقتحموا قواعد البيانات، أو يحصلوا مباشرة على محادثات المستخدمين المخزنة. لم تتمكن الشركة بعد من تأكيد ما إذا كانت جميع الأنشطة نابعة من جهة واحدة، لكنها نسبت إحدى المجموعات الأساسية إلى أشخاص مرتبطين بشركة Moonshot AI، مطورة Kimi. قامت OpenAI بحظر أو تقييد الحسابات ذات الصلة، وعززت التسجيل والبنية التحتية وكشف تدفق المخرجات، وأصلحت المسارات التي تسمح بإعادة تشغيل الاستدلالات المشفرة عبر المستخدمين ومساحات العمل والنماذج. كما تم توفير المعلومات ذات الصلة للشركاء عبر منتدى النماذج الحدودية وقنوات تبادل المعلومات الحكومية.