التحفيز الفعال لتقنيات الإنترنت للأشياء القائمة على النماذج اللغوية الكبيرة (LLM)

أظهرت نماذج اللغات الكبيرة (LLMs) قدرات ملحوظة في مهام مختلفة، ولاقى دمج هذه القدرات في تطبيقات إنترنت الأشياء (IoT) اهتمامًا بحثيًا كبيرًا مؤخرًا. ومع ذلك، بسبب المخاوف الأمنية، تتجنب العديد من المؤسسات استخدام خدمات LLMs التجارية المتقدمة، مما يتطلب نشر واستخدام نماذج اللغات الكبيرة ذات المصدر المفتوح في بيئة الشبكة المحلية. ومع ذلك، فإن نماذج اللغات الكبيرة ذات المصدر المفتوح غالبًا ما تكون محدودة فيما يتعلق بأدائها، مثل قدراتها على الحسابات الحسابية والاستدلال، ولم يتم استكشاف أنظمة عملية لتطبيق LLMs على IoT بشكل كافٍ بعد. لذلك، نقترح في هذه الدراسة نظام إنترنت الأشياء التوليدي القائم على LLMs (GIoT) الذي يتم نشره في بيئة الشبكة المحلية. لتخفيض حدود LLMs وتوفير خدمة ذات أداء تنافسي، نطبق طرق هندسة الدفع (prompt engineering) لتعزيز قدرات النماذج اللغوية ذات المصدر المفتوح، ونقوم بتصميم وحدة إدارة الدفع (Prompt Management Module) ووحدة المعالجة اللاحقة (Post-processing Module) لإدارة الدفعات المخصصة للمهام المختلفة ومعالجة النتائج التي تم إنشاؤها بواسطة LLMs. للدلالة على فعالية النظام المقترح، نناقش مهمة صعبة للإجابة على أسئلة الجداول (Table-QA) كدراسة حالة للنظام المقترح، حيث أن البيانات الجدولية غالبًا ما تكون أكثر تحديًا من النصوص البسيطة بسبب هيكلتها المعقدة وأنواع البيانات غير المتجانسة وأحيانًا أحجامها الضخمة. أجرينا تجارب شاملة على مجموعتين شعبيتين من بيانات Table-QA، وأظهرت النتائج أن مقترحتنا يمكن أن تحقق أداءً تنافسيًا مقارنة بنماذج LLMs المتقدمة حاليًا، مما يثبت أن النظام المقترح القائم على LLMs لـ GIoT يمكنه توفير أداء تنافسي باستخدام طرق الدفع المخصصة وهو قابل للتوسع إلى مهام جديدة دون الحاجة إلى التدريب.