HyperAIHyperAI

Command Palette

Search for a command to run...

DiffCSE: التعلم التناقضي القائم على الفرق لتمثيل الجمل

Yung-Sung Chuang Rumen Dangovski Hongyin Luo Yang Zhang Shiyu Chang Marin Soljačić Shang-Wen Li Wen-tau Yih Yoon Kim James Glass

الملخص

نُقدِّم DiffCSE، وهي إطار عمل للتعلم المتناظر غير المُشرَّف لتعلم تمثيلات الجمل. يتعلم DiffCSE تمثيلات الجمل التي تكون حساسة للفرق بين الجملة الأصلية والجملة المعدّلة، حيث تُحصل على الجملة المعدّلة عن طريق إزالة عشوائية للجملة الأصلية ثم أخذ عينات من نموذج لغوي مُقنّع. نُظهر أن DiffCSE يُعدّ حالة خاصة من التعلم المتناظر المُتَماثِل (Dangovski et al., 2021)، والذي يعمّم التعلم المتناظر ويتعلم تمثيلات تكون غير حساسة لبعض أنواع التحويلات، وحساسة لأنواع أخرى "ضارة" من التحويلات. تُظهر تجاربنا أن DiffCSE تحقق أفضل النتائج بين الطرق غير المُشرَّفة لتمثيل الجمل، وتتفوّق على SimCSE غير المُشرَّف بـ 2.3 نقطة مطلقة في مهام التشابه النصي المعنوي.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp