منصة X تختبر نظامًا هجينًا للبيانات المجتمعية يستخدم الذكاء الاصطناعي لإ producing ملاحظات سياقية أسرع وأكثر نطاقًا

برنامج تجريبي يدمج ملاحظات مجتمعية مولدة بالذكاء الصناعي مع ملاحظات البشر على منصة X أطلق X (التويتر سابقاً) برنامج "ملاحظات المجتمع" في عام 2021 بهدف مكافحة المعلومات المضللة من خلال السماح للمستخدمين بإضافة ملاحظات تفسيرية على المشاركات التي قد تكون مضللة أو تؤدي إلى سوء الفهم. على سبيل المثال، يمكن للمستخدمين توضيح أن مقطع فيديو تم إنشاؤه بواسطة الذكاء الصناعي حتى لا يقع الآخرون في الغلط بتصديق حدوث الحدث المصور فيه. يتم تقييم هذه الملاحظات من قبل المجتمع الاجتماعي اللامركزي لتحديد مدى فائدتها، ويظهر فقط تلك الملاحظات التي تُعتبر مفيدة من قبل المقيمين. حتى الآن، كانت هذه أنظمة التحقق من الحقائق تعتمد تمامًا على الملاحظات المولدة من البشر وتقييمها من قبل البشر أيضًا. ومع ذلك، بدأت X الآن برنامجًا تجريبيًا يسمح لتقنيات الذكاء الصناعي، وخاصة النماذج اللغوية الكبيرة (LLMs)، بإنشاء ملاحظات مجتمعية جنبًا إلى جنب مع البشر. تم نشر النموذج المقترح مؤخرًا من قبل باحثي X، والذي يدمج بين الملاحظات البشرية والملاحظات المولدة بالذكاء الصناعي في خط الأنابيب، مع السماح فقط للبشر بتقييم مدى فائدة هذه الملاحظات. يؤمن الباحثون بأن السرعة والحجم الكبير للملاحظات المولدة بواسطة LLMs هما أمران ضروريان في عصر انتشار المعلومات المضللة. يقولون: "ستمكن عملية إنشاء الملاحظات بشكل آلي النظام من العمل بمعدلات سرعة وحجم غير ممكنة للأشخاص، مما يوفر السياق لكميات كبيرة من المحتوى عبر الإنترنت". سيتم تحسين عملية إنشاء الملاحظات بواسطة الذكاء الصناعي من خلال تعلمها من ملاحظات المجتمع في عملية تُعرف باسم "تعلم التعزيز من ملاحظات المجتمع" (RLCF). تهدف هذه العملية إلى تحسين إنشاء الملاحظات المستقبلية من خلال مجموعة متنوعة من الملاحظات من أعضاء المجتمع ذوي وجهات النظر المختلفة، مما يتوقع أن يؤدي إلى ملاحظات أكثر دقة وحيادية وفائدة. المخاطر والتحديات رغم توقعات الباحثين بأن هذا النموذج الجديد سيساهم في تحسين عملية التحقق من صحة المعلومات بشكل عام، إلا أنه يحمل بعض المخاطر المحتملة. يشير الباحثون إلى مشكلات محتملة تتعلق بقدرة ملاحظات الذكاء الصناعي على الإقناع لكنها غير دقيقة، وهي مشكلة معروفة في أنظمة أخرى. كما يُثير القلق احتمال تجانس الملاحظات بشكل كبير، وأن الكتاب البشريين قد يقللون من مشاركتهم بسبب وفرة الملاحظات المولدة بالذكاء الصناعي، وقد يصبح هذا الوفرة عبئًا على قدرة المقيمين البشريين على تحديد ما هو مفيد وما ليس كذلك. المستقبل والاتجاهات القادمة تناقش الدراسة العديد من الاتجاهات المستقبلية التي تتضمن مزيدًا من تكامل الذكاء الصناعي في خط أنابيب ملاحظات المجتمع، مع الحفاظ على الرقابة البشرية. قد تشمل هذه الاتجاهات استخدام الذكاء الصناعي كـ "مساعدين مشتركين" للكتاب البشريين لإجراء البحث وإصدار المزيد من الملاحظات بشكل أسرع، ومساعدة المقيمين البشريين في تدقيق الملاحظات بكفاءة أكبر. كما تقترح الدراسة طرقًا للتحقق من هوية المقيمين والكتاب البشريين، وتخصيص نماذج LLMs، وطرق لتكيف وإعادة تطبيق الملاحظات الموثقة بالفعل في سياقات مشابهة، بحيث لا يضطر المقيمين إلى تقييم نفس المفاهيم مرارًا وتكرارًا. يُتوقع أن تساهم هذه الطرق的合作方法 (طرق التعاون بين البشر والذكاء الصناعي) في تعزيز عملية التعامل مع كميات كبيرة من المعلومات المتاحة عبر الإنترنت، حيث سيقدم البشر التنوع والدقة، بينما سيوفر الذكاء الصناعي السرعة والحجم. ومع ذلك، لا يزال هناك الكثير من الاختبارات اللازمة للتأكد من عدم فقدان اللمسة البشرية. يصف مؤلفو الدراسة هدفهم النهائي بالقول: "الهدف ليس إنشاء مساعد ذكاء صناعي يخبر المستخدمين بما يجب عليهم التفكير فيه، بل بناء نظام يُمكّن البشر من التفكير بشكل أكثر نقديًا وفهم العالم بشكل أفضل". تقييم الحدث من قبل المختصين يرى الخبراء في مجال الأمن السيبراني والتكنولوجيا أن هذا التوجه الجديد له إمكانات كبيرة في تحسين جودة معلومات الإنترنت ومكافحة المعلومات المضللة. ومع ذلك، يشددون على أهمية مواصلة الاختبار والتحسين المستمر للنماذج لضمان عدم وجود تحيزات أو أخطاء تكنولوجية قد تؤثر سلبًا على العملية. كما يعتبرون أن مشاركة البشر بشكل مستمر ضرورية لتحقيق التوازن بين الدقة والتنوع من جهة، والسرعة والكفاءة من جهة أخرى. نبذة عن X X هي منصة التواصل الاجتماعي التي كانت تُعرف سابقًا باسم تويتر. منذ إعادة تسميتها، أصبحت المنصة تركز بشكل أكبر على التكنولوجيا المتقدمة والحلول الابتكارية لتعزيز تجربة المستخدم وضمان جودة المحتوى. تعتبر "ملاحظات المجتمع" واحدة من المبادرات الرائدة لX في مجال مكافحة المعلومات المضللة، وقد ألهمت العديد من المنصات الأخرى لإطلاق برامج مشابهة.