HyperAIHyperAI
منذ 2 أشهر

أن تكون مستمرًا، أو أن تكون متقطعًا، هذه هي جزء من الأسئلة

Yiran Wang; Masao Utiyama
أن تكون مستمرًا، أو أن تكون متقطعًا، هذه هي جزء من الأسئلة
الملخص

في الآونة الأخيرة، تم اقتراح التمثيل الثنائي كنمط جديد يقع بين التمثيلات المستمرة والمحددة. يظهر هذا التمثيل قدرة كبيرة على الحفاظ على المعلومات عند استخدامه لاستبدال المتجهات الإدخال المستمرة. في هذه الورقة البحثية، ندرس إمكانية تطبيقه بشكل أكبر على الجانب الخرج، بهدف السماح للنماذج بإصدار علامات ثنائية بدلاً من ذلك. لحفظ معلومات البنية مع معلومات العلامات على الجانب الخرج، نوسع طريقة التجزئة المقارنة السابقة إلى التجزئة المقارنة البنيوية. وبشكل أكثر تحديداً، نطور CKY (من المستوى العلامة إلى المستوى البت)، نحدد دالة تشابه جديدة باستخدام احتمالات الهامش الفاصلة، ونقدم دالة خسارة مقارنة جديدة مع استراتيجية اختيار حالات مصممة بعناية. يحقق نموذجنا أداءً تنافسيًا في مجموعة متنوعة من مهام التنبؤ البنيوي، ويوضح أن التمثيل الثنائي يمكن اعتباره تمثيلاً جديداً يربط الفجوة بشكل أكبر بين الطبيعة المستمرة للتعلم العميق والخواص الداخلية المحددة للغات الطبيعية.

أن تكون مستمرًا، أو أن تكون متقطعًا، هذه هي جزء من الأسئلة | أحدث الأوراق البحثية | HyperAI