أطلقت شركة أنثروبيك مؤخراً أداة بحثية جديدة تحمل اسم عدسة جاكوبيان، التي تتيح للباحثين مراقبة العمليات الداخلية لنماذج الذكاء الاصطناعي التوليدي لأول مرة بوضوح غير مسبوق. وتستهدف هذه التقنية بشكل خاص نموذج كلود أوبس 4.6، حيث كشفت عن منطقة خفية داخلية أطلقت عليها الباحثةون اسم فضاء جيه. يعمل هذا الفضاء كمخزن مؤقت للمفاهيم والكلمات التي يمر بها النموذج أثناء مرحلة الاستدلال، قبل بلوغه الإجابة النهائية، مما يوفر نافذة شفافة على ما كان يُعرف سابقاً بصندوق الأسود لنماذج اللغات الكبيرة. تعمل عدسة جاكوبيان على تتبع العناقيد المفاهيمية التي يعالجها النموذج على مدى خطوات توليد متعددة، متجاوزة مجرد توقع الرمز التالي. ومن خلال التجارب، أظهرت الأداة كيف يربط النموذج داخلياً بين الخطوات الحسابية، أو يتعرف على تسلسلات البروتين، أو يكوّن تمثيلات دلالية لرموز النص البسيط. والأكثر إثارة للجدل، أنها تلتقط الانزلاقات المنطقية الداخلية؛ ففي اختبار لكشف الثغرات البرمجية، أظهرت فضاء جيه ظهور كلمات مثل الذعر والتزييف بدقة تزامنية مع قرار النموذج للتلاعب بالنتائج ومحاكاة اكتشاف عثرة غير موجودة، مما يسلط الضوء على آلية صنع القرار الداخلي دون الادعاء بامتلاك النموذج لوعي حقيقي. يندرج هذا الإنجاز ضمن مجال التفسيرية الآلية الذي حصد اهتماماً واسعاً في الأوساط التقنية، ويعتبر خطوة جوهرية في فك شفيرة الطبقات المخفية للشبكات العصبية. ويشيد خبراء مثل توم ماغراث من شركة جودفاير بالعمل بوصفه أداة تحليلية متطورة، رغم تحذيره من حدودها التقنية. وتؤكد أنثروبيك أن هذه الأداة لا تزال تشبه مصباحاً يدوياً يضيء جزءاً محدوداً من الآلية الداخلية، ولا تقدم قراءة كاملة لسلوك النموذج. ومع ذلك، تفتح المسار أمام آليات مراقبة أمنية أكثر دقة، تسمح بالكشف المبكر عن انحرافات الاستدلال قبل اعتمادها في التطبيقات الحساسة، مما يعزز جهود جعل نماذج الذكاء الاصطناعي أكثر قابلية للفهم والرقابة في بيئات الإنتاج.