Command Palette
Search for a command to run...
Wiki
Machine Learning Glossary: Explore definitions and explanations of key AI and ML concepts
آلة بولتزمان هي نوع من الشبكات العصبية العشوائية والشبكات العصبية المتكررة التي اخترعها جيفري هينتون وتيري سينوفسكي في عام 1985. يمكن اعتبار آلة بولتزمان عملية عشوائية تولد […]
التعريف: طريقة التقسيم الثنائي هي خوارزمية يكون مدخلها عبارة عن قائمة مرتبة من العناصر. إذا كان العنصر الذي يتم البحث عنه موجودًا في القائمة، فإن البحث الثنائي يعيد موقعه؛ وإلا فإنه يعود فارغًا. الفكرة الأساسية: هذه الطريقة مناسبة عندما تكون كمية البيانات كبيرة. عند استخدام البحث الثنائي، يجب فرز البيانات. افترض أن البيانات مرتبة تصاعديًا […]
التعريف: يقارن الاختبار الثنائي الترددات المرصودة لفئتين من متغير ثنائي مع الترددات المتوقعة في ظل توزيع ثنائي مع معلمة احتمالية محددة. افتراضيًا، تكون معلمة الاحتمالية 0.5 لكلا المجموعتين. مثال: تم رمي عملة معدنية واحتمال ظهور الوجه هو 1/2. وبناءً على هذا الافتراض، يتم رمي العملة المعدنية 40 مرة […]
يشير إلى وجود فئتين فقط في مهمة التصنيف، على سبيل المثال، نريد تحديد ما إذا كانت الصورة لقطة أم لا. وهذا يعني تدريب المصنف وإدخال صورة، يتم تمثيلها بواسطة متجه الميزة x، وإخراج ما إذا كانت قطة، يتم تمثيلها بواسطة y = 0 أو 1؛ يفترض التصنيف ذو الفئتين أن كل عينة يتم ضبطها بعلامة واحدة فقط 0 […]
التعريف: لقد أظهرت الشبكات العصبية العميقة نتائج متفوقة في العديد من المجالات مثل التعرف على الكلام ومعالجة الصور ومعالجة اللغة الطبيعية. يمكن لـ LSTM، كمتغير من RNN، أن يتعلم التبعيات طويلة المدى في البيانات مقارنةً بـ RNN. في عام 2005، اقترح جريفز دمج LSTM مع [...]
إن معضلة التحيز والتباين تعني أنه من المستحيل تقليل كل من التحيز والتباين في نفس الوقت، ولا يمكن تحقيق التوازن بين الاثنين إلا. في النموذج، إذا كنت تريد تقليل الانحراف، فسوف تزيد من تعقيد النموذج لمنع عدم الملاءمة؛ ولكن في نفس الوقت، لا يمكنك جعل النموذج معقدًا للغاية، مما سيؤدي إلى زيادة التباين والتسبب في الإفراط في التجهيز. ولذلك، علينا أن نجد التوازن في تعقيد النموذج.
"تحليل التحيز والتباين" هي أداة تشرح أداء التعميم لخوارزميات التعلم من منظور التحيز والتباين. التعريف المحدد هو كما يلي: افترض أن هناك K مجموعة بيانات، يتم استخراج كل منها بشكل مستقل من توزيع p(t,x) (يمثل t المتغير الذي سيتم التنبؤ به، ويمثل x متغير الميزة). في مختلف […]
التعريف: الفرق بين الناتج المتوقع والعلامة الحقيقية يسمى التحيز. يمكن للشكل التالي أن يوضح بشكل جيد العلاقة بين التحيز والتباين:
يتم استخدام مصفوفة التشتت بين الفئات لتمثيل تشتت كل نقطة عينة حول المتوسط. التعريف الرياضي
التعريف: الشبكة البايزية هي أحد النماذج النظرية الأكثر فعالية في مجال التعبير عن المعرفة غير المؤكدة والاستدلال. تتكون الشبكة البايزية من عقد تمثل المتغيرات والحواف الموجهة التي تربط هذه العقد. تمثل العقد متغيرات عشوائية. تمثل الحواف الموجهة بين العقد العلاقات بين العقد. يتم التعبير عن قوة العلاقة باستخدام الاحتمال الشرطي. لا يوجد عقدة رئيسية […]
المفاهيم الأساسية تعتبر نظرية القرار البايزية طريقة أساسية في اتخاذ القرار باستخدام النموذج الإحصائي. الفكرة الأساسية هي: يتم تحويل تعبير معلمة كثافة الاحتمال الشرطي للفئة المعروفة والاحتمال السابق إلى احتمال لاحق باستخدام الصيغة البايزية. يتم تصنيف القرار بناءً على حجم الاحتمال الخلفي. الصيغة ذات الصلة ليكن D1، D2، ...، Dn عينات […]
من أجل تقليل المخاطر الإجمالية، يتم اختيار تسمية الفئة التي يمكنها تقليل المخاطر R(c|x) على العينة، أي أن h∗ هو المصنف الأمثل البايزي.
في اختيار النموذج، عادة ما يتم اختيار "أفضل" نموذج من مجموعة من النماذج المرشحة، ثم يتم استخدام هذا "الأفضل" المحدد للتنبؤ. على عكس النموذج الأمثل الفردي، يقوم متوسط النموذج البايزي بتعيين الأوزان لكل نموذج ويقوم بإجراء المتوسط المرجح لتحديد قيمة التنبؤ النهائية. ومن بينها الوزن المخصص للنموذج هو […]
بالنسبة لكل عينة x، إذا كان بإمكان h تقليل المخاطر الشرطية R(h(x)|x)، فسيتم أيضًا تقليل المخاطر الإجمالية. وهذا يؤدي إلى قاعدة قرار بايز: لتقليل المخاطر الإجمالية، نحتاج فقط إلى اختيار القرار الذي يجعل المخاطر الشرطية R(c|x […]
BN هي مجموعة من طرق التنظيم التي يمكنها تسريع تدريب الشبكات التلافيفية الكبيرة وتحسين دقة التصنيف بعد التقارب. عندما يتم استخدام BN في طبقة معينة من الشبكة العصبية، فإنه سيقوم بتوحيد البيانات الداخلية لكل دفعة صغيرة، وتطبيع الإخراج إلى التوزيع الطبيعي لـ N(0,1)، وتقليل [...]
في التعلم الجماعي، يكون "المتعلمون الأفراد" الذين تولدهم المجموعة متجانسين. يُطلق على هؤلاء المتعلمين اسم المتعلمين الأساسيين، وتُسمى خوارزميات التعلم المقابلة خوارزميات التعلم الأساسي.
الذاكرة طويلة المدى (LSTM) هي شبكة عصبية متكررة زمنياً (RNN) نُشرت لأول مرة في عام 1997. ونظرًا لبنيتها التصميمية الفريدة، فإن LSTM مناسبة لمعالجة وتوقع الأحداث المهمة في السلاسل الزمنية ذات الفواصل الزمنية الطويلة جدًا والتأخيرات […]
إن إنتروبيا المعلومات هي كمية مناسبة لقياس كمية المعلومات. تم اقتراحها من قبل شانون في عام 1948. وقد استعارت مفهوم الإنتروبيا في الديناميكا الحرارية وأطلقت على متوسط كمية المعلومات بعد استبعاد التكرار في المعلومات إنتروبيا المعلومات، وأعطت التعبير الرياضي ذي الصلة. الخصائص الثلاث للانتروبيا المعلوماتية هي الرتابة: كلما زاد احتمال وقوع حدث ما، كلما حمل معلومات أكثر [...]
يشير تمثيل المعرفة إلى تمثيل المعرفة ووصفها. يتعلق الأمر بكيفية تمكن الوكلاء من استخدام المعرفة ذات الصلة بشكل معقول. هذه دراسة للتفكير كعملية حسابية. بالمعنى الدقيق للكلمة، فإن تمثيل المعرفة واستدلال المعرفة هما مفهومان وثيقا الصلة في نفس مجال البحث، ولكن في الواقع، يتم استخدام تمثيل المعرفة أيضًا للإشارة إلى مفهوم واسع يشمل الاستدلال.
دالة الخسارة الأسيّة هي دالة خسارة مستخدمة بشكل شائع في خوارزمية AdaBoost. ويتم التعبير عن وظيفتها في صورة أسي، كما هو موضح في الرسم التخطيطي التالي. خطأ الخسارة الشائع الخسارة الأسيّة الخسارة الأسيّة: تُستخدم بشكل أساسي في خوارزمية التعلم الجماعي Adaboost؛ خسارة المفصلة H […]
في مجال التعلم الآلي، تشير الحقيقة إلى قيمة الإعداد الدقيقة لمجموعة التدريب لنتيجة التصنيف في التعلم الخاضع للإشراف، والتي تستخدم عمومًا لتقدير الخطأ وتقييم التأثير. في التعلم الخاضع للإشراف، تظهر البيانات المصنفة عادةً في شكل (x، t)، حيث يمثل x بيانات الإدخال ويمثل t التسمية. العلامة الصحيحة هي Grou […]
يشير تحليل الخطأ والتباعد إلى عملية تحليل خطأ التعميم المتكامل، والذي يمكن التعبير عنه على النحو التالي: حيث يمثل الجانب الأيسر E خطأ التعميم المتكامل، والجانب الأيمن […]
MCMC هي خوارزمية لأخذ العينات من التوزيعات العشوائية استنادًا إلى سلاسل ماركوف، والتي تقرب التوزيع الخلفي للمعامل المطلوب من خلال أخذ عينات عشوائية في مساحة الاحتمالية. النظرية الأساسية لـ MCMC هي عملية ماركوف. في الخوارزميات ذات الصلة، من أجل أخذ عينات من توزيع محدد، يمكننا المحاكاة من أي حالة وفقًا لعملية ماركوف.
الخوارزمية التطورية هي طريقة عامة لحل المشكلات تعتمد على الانتقاء الطبيعي والآليات الوراثية الطبيعية للعالم البيولوجي. الطريقة الأساسية: استخدام تكنولوجيا الترميز البسيطة لتمثيل الهياكل المعقدة المختلفة، واستخدام العمليات الجينية البسيطة والاختيار الطبيعي للبقاء للأصلح لتوجيه التعلم وتحديد اتجاه البحث؛ استخدم السكان لتنظيم البحث، بحيث […]
آلة بولتزمان هي نوع من الشبكات العصبية العشوائية والشبكات العصبية المتكررة التي اخترعها جيفري هينتون وتيري سينوفسكي في عام 1985. يمكن اعتبار آلة بولتزمان عملية عشوائية تولد […]
التعريف: طريقة التقسيم الثنائي هي خوارزمية يكون مدخلها عبارة عن قائمة مرتبة من العناصر. إذا كان العنصر الذي يتم البحث عنه موجودًا في القائمة، فإن البحث الثنائي يعيد موقعه؛ وإلا فإنه يعود فارغًا. الفكرة الأساسية: هذه الطريقة مناسبة عندما تكون كمية البيانات كبيرة. عند استخدام البحث الثنائي، يجب فرز البيانات. افترض أن البيانات مرتبة تصاعديًا […]
التعريف: يقارن الاختبار الثنائي الترددات المرصودة لفئتين من متغير ثنائي مع الترددات المتوقعة في ظل توزيع ثنائي مع معلمة احتمالية محددة. افتراضيًا، تكون معلمة الاحتمالية 0.5 لكلا المجموعتين. مثال: تم رمي عملة معدنية واحتمال ظهور الوجه هو 1/2. وبناءً على هذا الافتراض، يتم رمي العملة المعدنية 40 مرة […]
يشير إلى وجود فئتين فقط في مهمة التصنيف، على سبيل المثال، نريد تحديد ما إذا كانت الصورة لقطة أم لا. وهذا يعني تدريب المصنف وإدخال صورة، يتم تمثيلها بواسطة متجه الميزة x، وإخراج ما إذا كانت قطة، يتم تمثيلها بواسطة y = 0 أو 1؛ يفترض التصنيف ذو الفئتين أن كل عينة يتم ضبطها بعلامة واحدة فقط 0 […]
التعريف: لقد أظهرت الشبكات العصبية العميقة نتائج متفوقة في العديد من المجالات مثل التعرف على الكلام ومعالجة الصور ومعالجة اللغة الطبيعية. يمكن لـ LSTM، كمتغير من RNN، أن يتعلم التبعيات طويلة المدى في البيانات مقارنةً بـ RNN. في عام 2005، اقترح جريفز دمج LSTM مع [...]
إن معضلة التحيز والتباين تعني أنه من المستحيل تقليل كل من التحيز والتباين في نفس الوقت، ولا يمكن تحقيق التوازن بين الاثنين إلا. في النموذج، إذا كنت تريد تقليل الانحراف، فسوف تزيد من تعقيد النموذج لمنع عدم الملاءمة؛ ولكن في نفس الوقت، لا يمكنك جعل النموذج معقدًا للغاية، مما سيؤدي إلى زيادة التباين والتسبب في الإفراط في التجهيز. ولذلك، علينا أن نجد التوازن في تعقيد النموذج.
"تحليل التحيز والتباين" هي أداة تشرح أداء التعميم لخوارزميات التعلم من منظور التحيز والتباين. التعريف المحدد هو كما يلي: افترض أن هناك K مجموعة بيانات، يتم استخراج كل منها بشكل مستقل من توزيع p(t,x) (يمثل t المتغير الذي سيتم التنبؤ به، ويمثل x متغير الميزة). في مختلف […]
التعريف: الفرق بين الناتج المتوقع والعلامة الحقيقية يسمى التحيز. يمكن للشكل التالي أن يوضح بشكل جيد العلاقة بين التحيز والتباين:
يتم استخدام مصفوفة التشتت بين الفئات لتمثيل تشتت كل نقطة عينة حول المتوسط. التعريف الرياضي
التعريف: الشبكة البايزية هي أحد النماذج النظرية الأكثر فعالية في مجال التعبير عن المعرفة غير المؤكدة والاستدلال. تتكون الشبكة البايزية من عقد تمثل المتغيرات والحواف الموجهة التي تربط هذه العقد. تمثل العقد متغيرات عشوائية. تمثل الحواف الموجهة بين العقد العلاقات بين العقد. يتم التعبير عن قوة العلاقة باستخدام الاحتمال الشرطي. لا يوجد عقدة رئيسية […]
المفاهيم الأساسية تعتبر نظرية القرار البايزية طريقة أساسية في اتخاذ القرار باستخدام النموذج الإحصائي. الفكرة الأساسية هي: يتم تحويل تعبير معلمة كثافة الاحتمال الشرطي للفئة المعروفة والاحتمال السابق إلى احتمال لاحق باستخدام الصيغة البايزية. يتم تصنيف القرار بناءً على حجم الاحتمال الخلفي. الصيغة ذات الصلة ليكن D1، D2، ...، Dn عينات […]
من أجل تقليل المخاطر الإجمالية، يتم اختيار تسمية الفئة التي يمكنها تقليل المخاطر R(c|x) على العينة، أي أن h∗ هو المصنف الأمثل البايزي.
في اختيار النموذج، عادة ما يتم اختيار "أفضل" نموذج من مجموعة من النماذج المرشحة، ثم يتم استخدام هذا "الأفضل" المحدد للتنبؤ. على عكس النموذج الأمثل الفردي، يقوم متوسط النموذج البايزي بتعيين الأوزان لكل نموذج ويقوم بإجراء المتوسط المرجح لتحديد قيمة التنبؤ النهائية. ومن بينها الوزن المخصص للنموذج هو […]
بالنسبة لكل عينة x، إذا كان بإمكان h تقليل المخاطر الشرطية R(h(x)|x)، فسيتم أيضًا تقليل المخاطر الإجمالية. وهذا يؤدي إلى قاعدة قرار بايز: لتقليل المخاطر الإجمالية، نحتاج فقط إلى اختيار القرار الذي يجعل المخاطر الشرطية R(c|x […]
BN هي مجموعة من طرق التنظيم التي يمكنها تسريع تدريب الشبكات التلافيفية الكبيرة وتحسين دقة التصنيف بعد التقارب. عندما يتم استخدام BN في طبقة معينة من الشبكة العصبية، فإنه سيقوم بتوحيد البيانات الداخلية لكل دفعة صغيرة، وتطبيع الإخراج إلى التوزيع الطبيعي لـ N(0,1)، وتقليل [...]
في التعلم الجماعي، يكون "المتعلمون الأفراد" الذين تولدهم المجموعة متجانسين. يُطلق على هؤلاء المتعلمين اسم المتعلمين الأساسيين، وتُسمى خوارزميات التعلم المقابلة خوارزميات التعلم الأساسي.
الذاكرة طويلة المدى (LSTM) هي شبكة عصبية متكررة زمنياً (RNN) نُشرت لأول مرة في عام 1997. ونظرًا لبنيتها التصميمية الفريدة، فإن LSTM مناسبة لمعالجة وتوقع الأحداث المهمة في السلاسل الزمنية ذات الفواصل الزمنية الطويلة جدًا والتأخيرات […]
إن إنتروبيا المعلومات هي كمية مناسبة لقياس كمية المعلومات. تم اقتراحها من قبل شانون في عام 1948. وقد استعارت مفهوم الإنتروبيا في الديناميكا الحرارية وأطلقت على متوسط كمية المعلومات بعد استبعاد التكرار في المعلومات إنتروبيا المعلومات، وأعطت التعبير الرياضي ذي الصلة. الخصائص الثلاث للانتروبيا المعلوماتية هي الرتابة: كلما زاد احتمال وقوع حدث ما، كلما حمل معلومات أكثر [...]
يشير تمثيل المعرفة إلى تمثيل المعرفة ووصفها. يتعلق الأمر بكيفية تمكن الوكلاء من استخدام المعرفة ذات الصلة بشكل معقول. هذه دراسة للتفكير كعملية حسابية. بالمعنى الدقيق للكلمة، فإن تمثيل المعرفة واستدلال المعرفة هما مفهومان وثيقا الصلة في نفس مجال البحث، ولكن في الواقع، يتم استخدام تمثيل المعرفة أيضًا للإشارة إلى مفهوم واسع يشمل الاستدلال.
دالة الخسارة الأسيّة هي دالة خسارة مستخدمة بشكل شائع في خوارزمية AdaBoost. ويتم التعبير عن وظيفتها في صورة أسي، كما هو موضح في الرسم التخطيطي التالي. خطأ الخسارة الشائع الخسارة الأسيّة الخسارة الأسيّة: تُستخدم بشكل أساسي في خوارزمية التعلم الجماعي Adaboost؛ خسارة المفصلة H […]
في مجال التعلم الآلي، تشير الحقيقة إلى قيمة الإعداد الدقيقة لمجموعة التدريب لنتيجة التصنيف في التعلم الخاضع للإشراف، والتي تستخدم عمومًا لتقدير الخطأ وتقييم التأثير. في التعلم الخاضع للإشراف، تظهر البيانات المصنفة عادةً في شكل (x، t)، حيث يمثل x بيانات الإدخال ويمثل t التسمية. العلامة الصحيحة هي Grou […]
يشير تحليل الخطأ والتباعد إلى عملية تحليل خطأ التعميم المتكامل، والذي يمكن التعبير عنه على النحو التالي: حيث يمثل الجانب الأيسر E خطأ التعميم المتكامل، والجانب الأيمن […]
MCMC هي خوارزمية لأخذ العينات من التوزيعات العشوائية استنادًا إلى سلاسل ماركوف، والتي تقرب التوزيع الخلفي للمعامل المطلوب من خلال أخذ عينات عشوائية في مساحة الاحتمالية. النظرية الأساسية لـ MCMC هي عملية ماركوف. في الخوارزميات ذات الصلة، من أجل أخذ عينات من توزيع محدد، يمكننا المحاكاة من أي حالة وفقًا لعملية ماركوف.
الخوارزمية التطورية هي طريقة عامة لحل المشكلات تعتمد على الانتقاء الطبيعي والآليات الوراثية الطبيعية للعالم البيولوجي. الطريقة الأساسية: استخدام تكنولوجيا الترميز البسيطة لتمثيل الهياكل المعقدة المختلفة، واستخدام العمليات الجينية البسيطة والاختيار الطبيعي للبقاء للأصلح لتوجيه التعلم وتحديد اتجاه البحث؛ استخدم السكان لتنظيم البحث، بحيث […]