نظرية التقريب الشامل
تعتبر نظرية التقريب الشامل (UAT) أساسًا نظريًا مهمًا في مجال الشبكات العصبية. يُظهر أن الشبكة العصبية ذات البنية المعقدة بدرجة كافية يمكنها تقريب أي دالة مستمرة بدقة تعسفية. تم اقتراح هذه النظرية لأول مرة من قبل جورج سيبينكو في عام 1989، والورقة ذات الصلة هي "التقريب باستخدام تراكبات الدالة السيجمائيةأثبت أن شبكة عصبية تغذية أمامية ذات طبقة مخفية واحدة يمكنها تقريب أي دالة مستمرة طالما كان عدد الخلايا العصبية كافيًا، واستُخدمت دالة تنشيط غير خطية (مثل دالة سيجمايد). لاحقًا، نشر كورت هورنيك بحثًا عام ١٩٩١ بعنوان "قدرات التقريب لشبكات التغذية الأمامية متعددة الطبقات"يوسع هذه النظرية ويظهر أن اختيار دالة التنشيط يمكن أن يكون أوسع، طالما أن دالة التنشيط غير ثابتة ومحدودة ومتزايدة بشكل رتيب ومتصلة.