HyperAIHyperAI
منذ 11 أيام

المحولات البصرية للبيانات النسيجية الصغيرة التي تُتعلَّم من خلال التحويل المعرفي

Neel Kanwal, Trygve Eftestol, Farbod Khoraminia, Tahlita CM Zuiverloon, Kjersti Engan
المحولات البصرية للبيانات النسيجية الصغيرة التي تُتعلَّم من خلال التحويل المعرفي
الملخص

تتمتع أنظمة الطب الحاسوبي (CPATH) بإمكانية أتمتة المهام التشخيصية. ومع ذلك، قد تؤثر العيوب الموجودة في الشرائح الزجاجية الهيستولوجية الرقمية، المعروفة باسم الصور الشاملة للشريحة (WSIs)، سلبًا على الأداء العام لأنظمة CPATH. قد تتمكن نماذج التعلم العميق مثل نماذج المحولات البصرية (ViTs) من اكتشاف هذه العيوب واستبعادها قبل تشغيل الخوارزمية التشخيصية. إحدى الطرق البسيطة لتطوير نماذج ViT قوية وقابلة للتعميم هي تدريبها على مجموعات بيانات ضخمة. لكن الحصول على مجموعات بيانات طبية كبيرة يُعد مكلفًا وغير عملي، مما يستدعي الحاجة إلى طريقة عامة للكشف عن العيوب في صور WSIs. في هذا البحث، نقدم وصفة "طالب-معلم" لتحسين أداء تصنيف ViT في مهمة اكتشاف فقاعات الهواء. حيث يُحسّن ViT، المدرب ضمن إطار طالب-معلم، أداؤه من خلال استخلاص المعرفة الموجودة من نموذج المعلم ذي القدرة العالية. وحققت أفضل نموذج ViT لدينا قيمًا قدرها 0.961 و0.911 على التوالي في معياري F1-score وMCC، محققةً زيادة بنسبة 7% في معيار MCC مقارنة بالتدريب المستقل. تقدم الطريقة المقترحة منظورًا جديدًا لاستغلال تبادل المعرفة (Knowledge Distillation) فوق التعلم المنقول (Transfer Learning)، مما يشجع على استخدام المحولات المخصصة في خطوط معالجة ما قبل التشخيص الفعالة ضمن أنظمة CPATH.

المحولات البصرية للبيانات النسيجية الصغيرة التي تُتعلَّم من خلال التحويل المعرفي | أحدث الأوراق البحثية | HyperAI