دراستان جديدة تكشفان كيف تنتقال الشبكات العصبية من التعلم بالموقع إلى فهم المعنى عند المعالجة اللغوية

كيف تتعلم الذكاء الصناعي القراءة: من الموقع إلى المعنى كشفت دراسة جديدة نُشرت في مجلة "Journal of Statistical Mechanics: Theory and Experiment" عن جانب مهم من اللغز المرتبط بكيفية تعلم شبكات الذكاء الصناعي لفهم اللغة. تُظهر الدراسة أنه عند استخدام كميات صغيرة من البيانات للتدريب، تعتمد الشبكات العصبية في البداية على موقع الكلمات في الجملة. ومع زيادة التعرض للبيانات، يحدث تحول فجائي إلى استراتيجية تعتمد على معنى الكلمات. وفقًا للدراسة، يبدأ النظام العصبي بالفهم القائم على موقع الكلمات، حيث يمكنه استنتاج العلاقات بين الكلمات بناءً على ترتيبها في الجملة. على سبيل المثال، في اللغة الإنجليزية، يكون الفاعل عادةً قبل الفعل، والفعل قبل المفعول به. ولكن عندما يستمر التدريب ويحصل النظام على كمية كافية من البيانات، يتجاوز نقطة حرجة ويتحول فجأة إلى الاعتماد على المعنى بدلاً من الموقع. التحول الفجائي: نظرة من الفيزياء الإحصائية يصف هوجو كو، الباحث ما بعد الدكتوراه في جامعة هارفارد وأول مؤلفي الدراسة، هذا التحول بأنه انتقال طوري، مستخدمًا مفهومًا من الفيزياء. في الفيزياء الإحصائية، يتم دراسة الأنظمة التي تتكون من عدد هائل من الجزيئات (مثل الذرات أو الجزيئات) عبر وصف السلوك الجماعي لها إحصائيًا. بنفس الطريقة، تتكون الشبكات العصبية من عدد كبير من "العقد" أو الخلايا العصبية، كل منها متصل بالعديد من الآخرين ويشتغل على عمليات بسيطة. تنشأ ذكاء النظام من خلال تفاعل هذه الخلايا العصبية، وهو ظاهرة يمكن وصفها بالطرق الإحصائية. يشبه كو هذا التحول في سلوك الشبكة العصبية بالانتقال من السائل إلى الغاز الذي يحدث للماء تحت ظروف معينة من الحرارة والضغط. يؤكد أن فهم هذا التحول من وجهة النظر النظرية مهم، حيث يمكن أن يساعد في فهم الشروط التي تؤدي إلى تثبيت النموذج على استراتيجية معينة. هذه المعرفة النظرية يمكن أن تساهم في مستقبل استخدام الشبكات العصبية بشكل أكثر كفاءة وأمانًا. تطبيق النتائج على النماذج العملية رغم أن الشبكات المستخدمة في الدراسة مبسطة مقارنة بالنماذج المعقدة التي يتفاعل معها الناس يوميًا، إلا أنها تقدم أدلة أولية يمكن استخدامها لفهم كيفية عمل هذه النماذج. على سبيل المثال، تستخدم النماذج الحديثة للغة، مثل ChatGPT وGemini وClaude، آلية الذاتية الانتباه (self-attention mechanism) كSTONE لفهم العلاقات داخل الجمل. هذه الآلية تساعد النظام في تقدير أهمية كل كلمة بالنسبة للكلمات الأخرى في الجملة. التقييم من قبل المختصين يُعتبر هذا البحث خطوة هامة في فهم العمليات الداخلية للذكاء الصناعي. حيث يوفر رؤية أعمق حول كيفية تطور قدرات النظم اللغوية من الاعتماد على موقع الكلمات إلى الاعتماد على معانيها. هذه المعرفة يمكن أن تسهم في تحسين الكفاءة والأمان في التطبيقات المستقبلية للذكاء الصناعي، مما يجعلها ذات أهمية كبيرة للمطورين والباحثين في هذا المجال. نبذة عن الشركة تُعد جامعة هارفارد واحدة من أبرز المؤسسات التعليمية والبحثية في العالم. تشتهر ببرامجها في العلوم والهندسة، وتساهم بشكل كبير في تطوير تقنيات الذكاء الصناعي والتعلم العميق. يُركز باحثوها على فهم العمليات الداخلية للشبكات العصبية والتحسين المستمر لأدائها، مما يجعلهم في طليعة الابتكار في هذا المجال.