Mesh LLM يوزع حوسبة الذكاء الاصطناعي عبر iroh
أطلق مطورو مشروع Mesh LLM منصة حوسبة موزعة للذكاء الاصطناعي تعمل بنظام النظير إلى النظير، بهدف التخلص من الاعتماد على مراكز البيانات المركزية وخدمات الواجهات البرمجية المدفوعة. يدمج النظام قوة معالجة الرسومات والذاكرة المتوفرة عبر أجهزة متعددة في شبكة موحدة، ويعرضها كواجهة برمجية متوافقة مع معايير OpenAI، مما يتيح للمستخدمين تشغيل النماذج اللغوية الكبيرة عبر نقطة وصول محلية دون الحاجة للتعامل مع تعقيدات البنية التحتية. يعتمد المشروع بشكل أساسي على مكتبة iroh لإدارة الاتصالات الآمنة، والتي تستخدم بروتوكول QUIC مع قدرات مدمجة لتجاوز الجدران النارية وتوفير مسارات بديلة عند الحاجة. يمنح كل عقدة هوية رقمية قائمة على المفتاح العام، مما يلغي الاعتماد على خوادم مركزية ويوفر توجيه ديناميكي للطلبات عبر الشبكة. وتتميز البنية التقنية بنمط مخصص لتقسيم النماذج الضخمة عبر طبقات معالجة، حيث يتم توزيع أجزاء النموذج على عدة أجهزة تعمل بتوازي، مما يمكن الأجهزة محدودة الموارد من تشغيل نماذج ذات مئات المليارات من المعامل بكفاءة عالية. تستند طبقة النقل إلى مفاوضات آمنة وتصنيف للتيارات البياناتية حسب الوظيفة، لتشمل توجيه الطلبات، وتبادل معلومات الحالة، وإدارة المكونات الإضافية القابلة للتوسيع. تضم المكتبة المصاحبة أكثر من أربعين نموذجاً، تتراوح بين خفيفة الوزن تناسب الأجهزة المحمولة، وعملاقة تعتمد على معمارية مزيج الخبراء. يتيح النظام خيار الانضمام إلى شبكة عامة مفتوحة أو إنشاء شبكات خاصة معزولة، مع الحفاظ على تحكم كامل في سياسات المطابقة والموثوقية بين العقد. يمثل هذا الإطار تقنياً انتقالاً واضحاً نحو لامركزية خدمات الذكاء الاصطناعي، حيث يقدم حلاً يقلص التكاليف التشغيلية، ويضمن حوكمة البيانات محلياً، ويمنح الفرق التقنية حرية كاملة في إدارة السعات الحاسوبية وتشغيل الوكلاء الآليين دون قفل تقني. وتجرى حالياً تطويرات لتطبيق جوال يستند إلى SDK خاص، مصمم للتعامل مع معايير الوكلاء الآليين الناشئة، مما يوسع دائرة المشاركة عبر الأجهزة المتنقلة. يعزز المشروع توجه المطورين نحو بنية مفتوحة تقلل هيمنة المزودين الكبار، وتعيد صياغة نموذج تشغيل النماذج اللغوية ليكون قابلاً للتوسع، آمناً، وشبه مستقل جغرافياً.
