أداة جديدة تحقق توازنًا دقيقًا في الكشف عن النصوص المُنتجة بواسطة الذكاء الاصطناعي

أداة جديدة لكشف النصوص المنشئة بواسطة الذكاء الاصطناعي طور فريق من الباحثين في جامعة ميشيغان أداة جديدة يمكنها تحديد ما إذا كان نص معين قد كُتب بواسطة ذكاء اصطناعي أم بشري، مع الحفاظ على دقة عالية وخفض معدلات الاتهامات الخاطئة. ويُطلق على هذه الأداة اسم "ليكتروبى" (Liketropy)، وهو مصطلح مستوحى من المفاهيم النظرية للاحتمال والإنتروبيا، وهما مبدأان إحصائيان يشكلان أساس اختبار الأداة. مبدأ العمل صمم الفريق اختبارات إحصائية "بدون سابقة" (zero-shot) يمكنها التمييز بين النصوص البشرية والنصوص المنشأة بواسطة نماذج اللغات الكبيرة (LLMs) دون الحاجة إلى تدريب مسبق على أمثلة من كل نوع. تعتمد الأداة على خصائص إحصائية للنص نفسه، مثل مدى مفاجأة الكلمات أو توقعها، لتحديد ما إذا كان النص يبدو أكثر بشرية أو منشأة بواسطة آلة. في الاختبارات التي أجرتها على مجموعات بيانات كبيرة، بما في ذلك تلك المودèles التي لم تكن متوفرة للجمهور أو التي تم تصميم النصوص المنشأة بواسطة الذكاء الاصطناعي فيها بهدف تجاوز الأدوات الكاشفة، أظهر الباحثون أن أداة "ليكتروبى" حققت نتائج جيدة. عند تصميم الاختبار مع التركيز على نماذج اللغات الكبيرة المحددة كمولدات محتملة للنصوص، حققت الأداة دقة متوسطة تزيد عن 96٪ ومعدل اتهامات خاطئة منخفض يصل إلى 1٪ فقط. أهداف الأداة أكدت طارا رادفاند، طالبة الدكتوراه في كلية الأعمال بجامعة ميشيغان، أن هدفهم الأساسي كان الحذر من الاتهامات الخاطئة مع الحفاظ على قدرة الأداة على كشف المحتوى المنشأة بواسطة الذكاء الاصطناعي بثقة إحصائية. وذكرت أن بعض أدوات الكشف قد تكون مفرطة في الثقة، مما يجعلها خطيرة خاصة في مجال التعليم والسياسة. العدالة والشمولية من أبرز الدوافع وراء تطوير هذه الأداة هو تحقيق العدالة، خاصة فيما يتعلق بالطلاب الدوليين والمتحدثين غير الأصليين للإنجليزية. أظهرت الأبحاث الحديثة أن الطلاب الذين يتحدثون الإنجليزية كلغة ثانية قد يتم تحديدهم بشكل غير عادل بسبب لهجة أو بنية الجمل التي قد تبدو مشابهة لتلك التي ينتجها الذكاء الاصطناعي. تعتبر أداة "ليكتروبى" مساعدة قيمة للطلاب في التحقق من كتاباتهم بطريقة شفافة وغير مكلفة قبل التقديم، مما يساعد على تجنب الاتهامات الخاطئة. التطبيقات المستقبلية يتطلع الباحثون إلى توسيع نطاق استخدام أداة "ليكتروبى" لتشمل مجالات مختلفة، مثل القانون والعلوم وتطبيقات القبول الجامعي. اكتشفوا أن هذه المراحل تختلف في درجة الحذر والفعالية المطلوبة في الكشف عن الذكاء الاصطناعي. من التطبيقات الحرجة لأدوات الكشف عن الذكاء الاصطناعي هو الحد من انتشار المعلومات المضللة على وسائل التواصل الاجتماعي. يتم استخدام بعض النماذج لتبني معتقدات متطرفة ونشر معلومات مضللة بهدف التلاعب بالرأي العام. نظرًا لقدرة هذه الأنظمة على إنتاج كميات كبيرة من المحتوى المزيف، يعد تطوير أدوات كشف موثوقة أمرًا حاسمًا للمساعدة في تحديد هذا المحتوى وحمايته من الانتشار. التكامل مع الأدوات الأخرى خطط الفريق أيضًا للتحدث مع قادة الأعمال والجامعة في جامعة ميشيغان حول إمكانية دمج أداة "ليكتروبى" مع أدوات أخرى مثل U-M GPT ومساعد Maizey AI لتأكيد ما إذا كانت النصوص قد تم توليدها بواسطة هذه الأدوات أو بواسطة نماذج ذكاء اصطناعي خارجية مثل ChatGPT. التقدير والتواصل حصلت أداة "ليكتروبى" على جائزة أفضل عرض تقديمي في مؤتمر "ميشيغان للدراسات العليا في العلوم الإحصائية المتداخلة"، وهو حدث سنوي تنظمه طلاب الدراسات العليا. كما تم الترويج لها من قبل مجموعة "نساء باريس في التعلم الآلي وعلوم البيانات"، وهي مجتمع فرنسي لنساء المهتمات بالتعلم الآلي وعلوم البيانات. الخلاصة الأداة الجديدة "ليكتروبى" تمثل خطوة مهمة نحو تحسين كشف النصوص المنشأة بواسطة الذكاء الاصطناعي، مع الحفاظ على دقة عالية ومعدلات اتهامات خاطئة منخفضة. تهدف الأداة إلى تحقيق العدالة في التعليم وحماية سلامة المناظرات العامة، وهي تفتح آفاقًا جديدة في مجالات مختلفة مثل القانون والعلوم والقبول الجامعي. تقييم الحدث من قبل المختصين يُعتبر تطوير هذه الأداة إنجازًا مهمًا في مجال الذكاء الاصطناعي، حيث أنه يساهم في حل واحدة من المشكلات الرئيسية التي تواجهها المؤسسات التعليمية والسياسات العامة. يرى العديد من الخبراء أن هذه الأداة تمثل خطوة نوعية نحو تحقيق التوازن بين الفعالية والحذر، مما يعزز الثقة في الأدوات المستخدمة للتحقق من المحتوى. نبذة تعريفية عن جامعة ميشيغان تعتبر جامعة ميشيغان من أبرز الجامعات البحثية في الولايات المتحدة الأمريكية، وتتميز ببرامجها المبتكرة في مجال الذكاء الاصطناعي وعلوم البيانات. تساهم الجامعة بشكل كبير في تطوير تقنيات جديدة وحلول مبتكرة لتحديات العصر الرقمي، مما يجعلها مركزًا رائدًا للبحث والتطوير في هذه المجالات.