HyperAIHyperAI

Command Palette

Search for a command to run...

منذ شهر واحد

أون بيس: جلب هندسة السياق والتفكير إلى نظام التصنيف المتسلسل الصناعي

أون بيس: جلب هندسة السياق والتفكير إلى نظام التصنيف المتسلسل الصناعي

الملخص

على الرغم من الاهتمام المتزايد بمحاكاة النجاح المُدرَك على نطاق واسع للنماذج اللغوية الكبيرة (LLMs) في أنظمة البحث والتصنيف الصناعية، تظل معظم الجهود الصناعية الحالية محدودة في نقل هياكل المُحول (Transformer) فقط، والتي تُسهم فقط في تحسينات تدريجية مقارنة بنماذج التوصية القائمة على التعلم العميق القوية (DLRMs). من منظور أولي، تكمن التطورات الجوهرية في نماذج LLMs ليس فقط في هيكلها، بل أيضًا في ميكانيكيْن متكاملين: هندسة السياق، التي تُثري الاستفسارات الأولية بالدلائل السياقية لتحسين إبراز قدرات النموذج، والتفكير المتعدد الخطوات، الذي يُعدّل تدريجيًا إخراج النموذج من خلال مسارات استنتاجية وسيطة. ومع ذلك، لا تزال هاتان الميكانيكيّتان ومحفّزاتهما المحتملة لتحسينات كبيرة غير مستكشفة بشكل كافٍ في أنظمة التصنيف الصناعية.في هذه الورقة، نُقدّم "OnePiece"، إطارًا موحدًا يدمج بسلاسة هندسة السياق ونماذج التفكير المماثلة للنماذج اللغوية الكبيرة في نماذج الاسترجاع والتصنيف ضمن أنظمة متسلسلة صناعية. يُبنى OnePiece على هيكل أساسي خالص من نوع المُحول (Transformer)، ويضيف ثلاثة ابتكارات رئيسية: (1) هندسة سياق منظمة، التي تُثري تاريخ التفاعل بإشارات التفضيل والسيناريو، ثم تُوحّد هذه العناصر في تسلسل مُشفّر من الرموز (tokenized input sequence) يُستخدم بشكل موحد في الاسترجاع والتصنيف؛ (2) التفكير الضمني المُقسّم (block-wise latent reasoning)، الذي يزوّد النموذج بقدرة التحسين المتعدد الخطوات للتمثيلات، ويُمكّن من توسيع عرض نطاق التفكير عبر تعديل حجم الكتل؛ (3) التدريب المتعدد المهام التدريجي، الذي يستفيد من سلاسل ردود الفعل من المستخدمين لضبط فعّال لخطوات التفكير أثناء التدريب. تم نشر OnePiece في السيناريو الرئيسي للبحث المخصص على منصة شوبى (Shopee)، وحققت نتائج متسقة في البيئة الحية على مختلف المؤشرات التجارية الرئيسية، بما في ذلك زيادة تجاوزت +2% في الإيرادات الإجمالية (GMV/UU)، وزيادة بنسبة +2.90% في إيرادات الإعلانات.

بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — عجّل تطوير الذكاء الاصطناعي الخاص بك من خلال البرمجة المشتركة المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة المشتركة بالذكاء الاصطناعي
وحدات معالجة رسومات جاهزة
أفضل الأسعار
ابدأ الآن

Hyper Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
أون بيس: جلب هندسة السياق والتفكير إلى نظام التصنيف المتسلسل الصناعي | الأوراق البحثية | HyperAI