HyperAIHyperAI

Command Palette

Search for a command to run...

نهج جديد للتعاون البشري-الذكاء الاصطناعي في المهام الطويلة

تُظهر الدراسة الجديدة نهجًا مبتكرًا للتعاون بين البشر والذكاء الاصطناعي في المهام الطويلة، والتي تمثل أحد التحديات الكبرى في تطوير وكالات الذكاء الاصطناعي الفعّالة. على الرغم من تركيز الكاتب على وكالات الذكاء الاصطناعي في مجال لغة البشر، إلا أن هذه الدراسة لفتت انتباهه لحل عملي وذو تأثير واسع. فبينما أصبح من الواضح أن وكالات الذكاء الاصطناعي تواجه صعوبات في التعامل مع المهام الطويلة، لا سيما تلك التي تتطلب تسلسلاً معقدًا من الخطوات، فإن الفكرة الأساسية تكمن في التمييز بين "المهمة" و"الوظيفة": فالوظيفة تُعدّ مجموعة من المهام، وغالبًا ما تفشل الوكالات في أداء المهام الطويلة دون تدخل بشري مستمر. العائق الرئيسي يكمن في قدرة الذكاء الاصطناعي على تفسير التعليمات بشكل دقيق، خصوصًا في المهام الطويلة التي تُترك لساعات أو أيام. فحتى مع تفاصيل دقيقة، تظل هناك فجوات تُفسر تلقائيًا من خلال افتراضات ضمنية، ما قد يؤدي إلى انحرافات غير مرغوب فيها. تُعالج هذه الدراسة المشكلة من خلال نموذج يُسمى "Empower"، الذي يُدرّب النموذج اللغوي الكبير (LLM) على التوقف تلقائيًا عند نقاط الغموض، بدلًا من محاولة المضي قدمًا بفرضات غير مؤكدة. ما يميّز Empower هو نهجها السلبي وغير المُربك في تضمين التدخل البشري. بخلاف النماذج التي تُفعّل استجابة مباشرة من المستخدم (مثل: "ما المقصود بـ X؟")، يعتمد Empower على تقدير "الانطواء" (entropy) لتحديد اللحظات التي يصبح فيها التفسير غير مؤكد. في هذه اللحظات، يتوقف النموذج عن اقتراح أي خطوات، ويعيّد السيطرة تلقائيًا إلى المستخدم، دون انقطاع أو تدخل مُستعجل. هذا يضمن تعاونًا طبيعيًا وسلسًا، يحترم سلطة الإنسان في اتخاذ القرارات الحاسمة. بخلاف الطرق التقليدية مثل التدريب المبني على التغذية الراجعة البشرية (RLHF)، التي تتطلب جهودًا بشرية مكثفة ووقتًا طويلًا، يعتمد Empower على بيانات قديمة متوفرة مسبقًا — مثل الشيفرات البرمجية المكتوبة من قبل البشر — دون الحاجة إلى تدخل بشري مستمر. هذا يُقلل التكاليف ويجعل النموذج قابلاً للتوسع بسهولة. كما يتجنّب النموذج مسألة "الاستفسار المفرط"، التي تُربك المستخدمين في النماذج الأخرى، ويقتصر على التعامل مع المهام الروتينية والسهلة، مثل إدخال قطع شفرة قياسية، بينما يتوقف عند المراحل التي تتطلب تفكيرًا إبداعيًا أو اتخاذ قرارات متعددة الاحتمالات. رغم أن الدراسة ركّزت على تطبيقات برمجية، فإن الإطار العام قابل للتطبيق في أي مهمة متسلسلة تُعبّر عنها نصوصًا: مثل كتابة التقارير، تخطيط المشاريع، أو حتى التحكم في روبوتات مساعدة عبر واجهات لغوية. فمثلاً، في مساعد كتابة طويل، يمكن للذكاء الاصطناعي التعامل مع الانتقالات والتنسيق، لكنه يتوقف عند فروع إبداعية. وفي وكالات المتصفح، يمكنه تلقّي المهام الروتينية، لكنه يتوقف عند اختيار معايير بحث معقدة. رغم وجود قيود — مثل الاعتماد على تدخل بشري فعّال عند نقاط التوقف، وضرورة تكييف تمثيل الحالة في المجالات غير النصية — فإن نهج Empower يُمثّل خطوة مهمة نحو توازن مستدام بين الكفاءة والتعاون البشري. مع تطور وكالات الذكاء الاصطناعي، قد تصبح مثل هذه النماذج جسرًا فعّالًا بين الأداء القصير الأجل والتعاون البشري الطويل الأمد.

الروابط ذات الصلة