التعلم الإحصائيإن بناء نماذج إحصائية احتمالية تعتمد على البيانات واستخدامها للتنبؤ بالبيانات وتحليلها يُعرف أيضًا باسم التعلم الآلي الإحصائي.

إن فرضية التعلم الإحصائي هي أن الافتراض الأساسي للبيانات هو أن البيانات من نفس النوع ولها انتظامات إحصائية معينة؛ بناءً على البيانات، وانطلاقًا من البيانات، استخرج خصائص البيانات، واستخلص نموذج البيانات، واكتشف القوانين الموجودة فيها، وإيجاد الوظائف التنبؤية وحل المشكلة؛ غرضه هو النظر في نوع النموذج الذي يجب تعلمه وكيفية تعلم النموذج.

التعلم الإحصائي هو تخصص يعتمد على البيانات وموضوع متعدد التخصصات يدمج مجالات متعددة مثل نظرية الاحتمالات والإحصاء ونظرية المعلومات ونظرية الحساب ونظرية التحسين وعلوم الكمبيوتر.

ثلاثة عناصر للتعلم الإحصائي

• النموذج: اختيار النموذج التوليدي أو النموذج التمييزي. الفرق بين النموذجين هو أن الهدف مختلف. النموذج التوليدي هو إيجاد توزيع الاحتمالات المشترك لبيانات المصدر، في حين أن النموذج التمييزي هو إيجاد الاحتمال الشرطي أو دالة القرار؛
• الاستراتيجية: اختر دالة الخسارة أو دالة المخاطرة المناسبة، أي اختر دالة الهدف؛
• الخوارزميات: بما في ذلك طريقة الانحدار التدرجي، وطريقة نيوتن/طريقة شبه نيوتن، وطريقة لاغرانج وخوارزميات التحسين الأخرى.