HyperAIHyperAI
منذ 17 أيام

تَحْوِيل التمثيل القائم على النظريّة المعلوماتية

Roy Miles, Adrian Lopez Rodriguez, Krystian Mikolajczyk
تَحْوِيل التمثيل القائم على النظريّة المعلوماتية
الملخص

على الرغم من النجاح التجريبي لتقنية تTRANSFER المعرفة، فإن الطرق الحالية الأفضل أداءً تتطلب تدريبًا مكلفًا من الناحية الحسابية، مما يجعلها صعبة التطبيق في الممارسة العملية. لمعالجة هذه المشكلة، نقدم خسارتين متميزتين ومكملتين مستوحاتين من مقدّر بسيط يشبه الإنتروبيا. تهدف هاتان الخسارتان إلى تعظيم الارتباط والمعلومات التبادلية بين تمثيلات الطالب والمحاضر. تُسهم طريقتنا في تقليل التكاليف الحسابية أثناء التدريب بشكل كبير مقارنة بالطرق الأخرى، وتحقق أداءً تنافسيًا مع الأفضل في مجالات تTRANSFER المعرفة ونقل المعرفة بين النماذج. ونُظهر أيضًا فعالية طريقتنا في مهمة تTRANSFER ثنائيّة، حيث تُحقّق أداءً جديدًا على مستوى الأفضل في التقطيع الثنائي، وتميل إلى أداء النموذج ذي الدقة الكاملة. الكود: www.github.com/roymiles/ITRD

تَحْوِيل التمثيل القائم على النظريّة المعلوماتية | أحدث الأوراق البحثية | HyperAI