HyperAIHyperAI
منذ 2 أشهر

شبكات البقايا القابلة للعكس

Jens Behrmann; Will Grathwohl; Ricky T. Q. Chen; David Duvenaud; Jörn-Henrik Jacobsen
شبكات البقايا القابلة للعكس
الملخص

نظهر أن هياكل ResNet القياسية يمكن جعلها قابلة للعكس، مما يسمح باستخدام نفس النموذج للتصنيف وتقدير الكثافة والتكوين. عادةً، فرض القابلية للعكس يتطلب تقسيم الأبعاد أو تقييد هياكل الشبكة. بخلاف ذلك، فإن نهجنا يتطلب فقط إضافة خطوة تطبيع بسيطة أثناء التدريب، وهي متاحة بالفعل في الإطارات القياسية. تعريفًا، تحدد ResNets القابلة للعكس نموذجًا تكوينيًا يمكن تدريبه بواسطة الأرجحية القصوى على البيانات غير المصنفة. لحساب الأرجحيات، نقدم تقريبًا قابلاً للحل لـ log-determinant الجاكوبيان لكتلة البواقي (residual block). تظهر تقييمنا التجريبي أن ResNets القابلة للعكس تنافس بشكل فعال مع تصنيفات الصور المتقدمة وأحدث النماذج التكوينية المستندة إلى التدفق (flow-based generative models)، وهو ما لم يتم تحقيقه سابقًا بهيكل واحد.

شبكات البقايا القابلة للعكس | أحدث الأوراق البحثية | HyperAI