OccamNets: تقليل التحيز في مجموعة البيانات من خلال التفضيل للفرضيات الأبسط

يمكن أن تؤثر الانحيازات في البيانات والارتباطات الوهمية بشكل كبير على القدرة على التعميم في الشبكات العصبية العميقة. وقد سعت العديد من الجهود السابقة إلى معالجة هذه المشكلة باستخدام دوال خسارة بديلة أو استراتيجيات عينة تركز على الأنماط النادرة. نقترح اتجاهًا جديدًا: تعديل بنية الشبكة لفرض انحيازات استدلالية تجعل الشبكة مقاومة لانحيازات البيانات. بشكل خاص، نقدم ما يُعرف بـ "OccamNets"، التي تُصمم لتفضيل الحلول الأبسط بشكل مُسبق. تمتلك OccamNets انحيازين استدلاليين. أولاً، فهي مُحَوَّزة لاستخدام أقل عمق ممكن من الشبكة لكل مثال فردي. ثانيًا، فهي مُحَوَّزة لاستخدام عدد أقل من المواقع في الصورة عند إجراء التنبؤ. وعلى الرغم من أن OccamNets مُحَوَّزة نحو فرضيات أبسط، إلا أنها قادرة على تعلّم فرضيات أكثر تعقيدًا عند الحاجة. وفي التجارب، تتفوّق OccamNets أو تُنافس الطرق الرائدة حاليًا التي تُطبَّق على بنى شبكية لا تدمج هذه الانحيازات الاستدلاليّة. علاوةً على ذلك، نُظهر أن دمج الطرق الرائدة في تقليل الانحياز مع OccamNets يؤدي إلى تحسين إضافي في الأداء.