أنتروبيك تطوّر نظاماً لإثبات هوية نماذج الذكاء الاصطناعي

أعلنت شركة Anthropic عن إطلاق نظام مفتوح المصدر باسم FlashProve، في محاولة لمعالجة صعوبة تأكيد المستخدمين للنموذج الذي تولّد عنه إجابات الذكاء الاصطناعي. وعند استخدام هذا النظام، تقوم جهة تقديم النموذج أولاً بنشر «بصمة» مشفرة لأوزان النموذج المقابلة، ثم تولّد إثباتات لمخرجات محددة بناءً على مدخلات معينة. ويمكن لأي شخص يمتلك البصمة والمدخلات والإجابة التحقق من الإثباتات دون الحاجة إلى الحصول على أوزان النموذج أو إعادة تشغيله. ويرى الباحثون أن هذا النهج، المعروف بـ«الاستدلال القابل للإثبات»، يساعد المستخدمين على تحديد ما إذا كانت الشركات المزودة للخدمة قد استبدلت النماذج بشكل خفي، كما يمكن استخدامه للتحقق من ادعاءات الأطراف الثالثة مثل «استخدام نموذج محدد لفحص الكود». وقد أصدرت Anthropic تقريراً تقنياً، ووصفاً للبروتوكول، وشفرة مصدرية مفتوحة، ليتسنى للمجتمع الخارجي مراجعتها وتحسينها. غير أن عملية الإثبات ليست مجانية التكلفة. ففي الاختبارات التي أجرتها الشركة باستخدام نموذج مفتوح المصدر كبير الحجم، بلغ حجم كل إثبات نحو 19 ميغابايت تقريباً، بينما استغرق توليد الإثباتات وقت معالجة على وحدات معالجة الرسوميات (GPU) يعادل 70 إلى 95 مرة مقارنة بالاستدلال العادي. من ناحية أخرى، يمكن تنفيذ عملية التحقق على أجهزة لا تتطلب استخدام وحدات معالجة الرسوميات. وأكدت Anthropic أن هذه النتائج تمثل مرحلة بحثية أولية فقط، ولم تعلن بعد عن نيتها نشر نظام FlashProve ضمن خدمة Claude. ويؤكد النظام فقط ما إذا كان النموذج المحدد قد أنتج المخرجات المطابقة، دون ضمان صحة الإجابة ذاتها.