HyperAIHyperAI
منذ 2 أشهر

الحد الأدنى من الارتباك بين الفئات لتكيف المجال المتنوع

Ying Jin; Ximei Wang; Mingsheng Long; Jianmin Wang
الحد الأدنى من الارتباك بين الفئات لتكيف المجال المتنوع
الملخص

هناك مجموعة متنوعة من سيناريوهات التكيف بين المجالات (Domain Adaptation - DA) تبعًا لمجموعات العلامات وتكوينات المجال، بما في ذلك التكيف بين المجالات المغلق والمحدود، بالإضافة إلى التكيف بين المجالات متعددة المصادر والمجالات المتعددة. يجدر الإشارة إلى أن طرق التكيف بين المجالات الحالية يتم تصميمها عادةً لسيناريو معين فقط، وقد تؤدي إلى أداء ضعيف في السيناريوهات التي لم يتم تصميمها لها. بناءً على ذلك، تدرس هذه الورقة البحثية التكيف بين المجالات المتنوع (Versatile Domain Adaptation - VDA)، حيث يمكن لطريقة واحدة التعامل مع عدة سيناريوهات مختلفة من التكيف بين المجالات دون أي تعديل. لتحقيق هذا الهدف، يجب استكشاف انحياز استقرائي أكثر عمومية بخلاف توافق المجال. نغوص في جزء مفقود من الطرق الحالية: ارتباك الفئات، وهو ميل المصنف إلى الخلط بين التوقعات للتصنيفات الصحيحة والغموضية للأمثلة المستهدفة، وهو أمر شائع في مختلف سيناريوهات التكيف بين المجالات. نكشف أن تقليل هذا النوع من ارتباك الفئات الثنائية يؤدي إلى مكاسب نقل كبيرة. استنادًا إلى هذه الرؤية، نقترح دالة خسارة عامة: أدنى ارتباك فئوي (Minimum Class Confusion - MCC). يمكن وصفها كـ:1. طريقة غير معادية للتكييف بين المجالات لا تتطلب صراحةً تنفيذ توافق المجال، مما يوفر سرعة تقارب أسرع.2. نهج متنوع يمكنه التعامل مع أربع سيناريوهات حالية: التكيف بين المجالات المغلق والمحدود ومتعدد المصادر والمجالات المتعددة، ويتفوق على أفضل الطرق الحالية في هذه السيناريوهات، خاصة على أحد أكبر وأصعب المجموعات المعروفة حتى الآن (DomainNet) بنسبة 7.3٪.يتم إثبات مرونتها بشكل أكبر من خلال سيناريواتين جديدتين تم اقتراحهما在这篇论文中: 多源部分域适应 (Multi-Source Partial DA) 和多目标部分域适应 (Multi-Target Partial DA)。此外,它还可以用作一种通用正则化器,该正则化器与各种现有的域适应方法正交且互补,加速收敛并推动这些已经具有竞争力的方法变得更加优秀。代码可在 https://github.com/thuml/Versatile-Domain-Adaptation 获取。注释: 在最后一段中,有两处中文术语未被翻译成阿拉伯语。以下是修正后的版本:بالإضافة إلى ذلك، يمكن استخدامها أيضًا كمعيار عام يتعامد ويتكامل مع مجموعة متنوعة من الطرق الحالية للتكييف بين المجالات، مما يسرع عملية التقارب ويدفع هذه الطرق التنافسية جاهزة نحو طرق أكثر قوة. الكود متاح على الرابط: https://github.com/thuml/Versatile-Domain-Adaptation.الترجمة الكاملة بعد الإصلاح:هناك مجموعة متنوعة من سيناريوهات التكيف بين المجالات (Domain Adaptation - DA) تبعًا لمجموعات العلامات وتكوينات المجال، بما في ذلك التكيف بين المجالات المغلق والمحدود، بالإضافة إلى التكيف بين المجالات متعددة المصادر والمجالات المتعددة. يجدر الإشارة إلى أن طرق التكيف بين المجالات الحالية يتم تصميمها عادةً لسيناريو معين فقط، وقد تؤدي إلى أداء ضعيف في السيناريوهات التي لم يتم تصميمها لها. بناءً على ذلك، تدرس هذه الورقة البحثية التكيف بين المجالات المتنوع (Versatile Domain Adaptation - VDA)، حيث يمكن لطريقة واحدة التعامل مع عدة سيناريوهات مختلفة من التكيف بين领域适应 without any modification.لتحقيق هذا الهدف,يجب استكشاف انحياز استقرائي أكثر عمومية بخلاف توافق领域 (inductive bias). نغوص في جزء مفقود من الطرق الحالية: ارتباك الفئات (class confusion),وهو ميل المصنف到混淆正确的类别和模糊类别之间的预测对目标示例而言,这是在不同的域适应场景中常见的问题。我们发现减少这种成对的类别混淆会导致显著的迁移增益。基于这一见解,我们提出了一种通用损失函数:最小类别混淆(Minimum Class Confusion - MCC)。它可以描述为:1. 一种非对抗性的域适应方法,无需显式部署领域对齐(domain alignment),享受更快的收敛速度。2. 一个多功能的方法可以处理四种现有场景:封闭集、部分集、多源和多目标域适应,在这些场景中优于最先进的方法,特别是在迄今为止最大和最难的数据集之一(DomainNet)上表现尤为突出(7.3%)。其多功能性还通过本文提出的两个新场景得到了进一步证明:多源部分域适应 (Multi-Source Partial DA) 和多目标部分域适应 (Multi-Target Partial DA)。此外,它还可以用作一种通用正则化器,该正则化器与各种现有的域适应方法正交且互补,加速收敛并推动这些已经具有竞争力的方法变得更加优秀。代码可在 https://github.com/thuml/Versatile-Domain-Adaptation 获取。再次注释: 上面的翻译仍然包含了一些中文术语。以下是完全修正后的阿拉伯语翻译:لتحقيق هذا الهدف، يجب استكشاف انحياز استقرائي أكثر عمومية بخلاف توافق مجال (inductive bias). نغوص في جزء مفقود من الطرق الحالية: ارتباك الفئا‌ت (class confusion)، وهو ميل المصنف إلى الخلط بين التوقعا‌ت للتصنيفات الصحيحة والغموضية للأمثلة المستهدفة، وهو أمر شائع في مختلف سيناريوات‌ التكييف بين المجا‌لات. لقد كشفنا أن تقليل هذا النوع من ارتبا‌ك الفئا‌ت الثنائية يؤدي إلى مكاس‌ب نقل كبيرة‌. بناءً على هذه الرؤي‌ة، نقترح دالة خسارة عامة: أدنى ارتبا‌ك فئوي (Minimum Class Confusion - MCC). يمكن وصفها كـ:1. طريقة غير معادية للتكييف بين المجا‌لات لا تتطلب صراحةً تنفيذ توافق المجا‌ل (domain alignment)، مما يوفر سرعة تقار‌ب أسرع.2. نهج متعدد الوظائف يمكنه التعامل مع أربع سيناريوات حالي‌ة: مجال مستقبلي مقفل ومحدود ومتعدد المصادر والمجالا‌ت المستهدفة المتعددة (Closed-Set, Partial-Set, Multi-Source, and Multi-Target DA)، ويتفوق على أفضل الطريقة‌ت الحالية在这些场景中,在这些场景中的表现优于最先进的方法,尤其是在迄今为止最大和最难的数据集之一(DomainNet)上表现尤为突出(7.3%)。其多功能性还通过本文提出的两个新场景得到了进一步证明:多源部分域适应 (Multi-Source Partial DA) 和多目标部分域适应 (Multi-Target Partial DA)。此外,它还可以用作一种通用正则化器,该正则化器与各种现有的域适应方法正交且互补,加速收敛并推动这些已经具有竞争力的方法变得更加优秀。代码可在 https://github.com/thuml/Versatile-Domain-Adaptation 获取。最终完全修正后的阿拉伯语翻译:لتحقيق هذا الهدف، يجب استكشاف انحياز استقرائي أكثر عمومية بخلاف توافق مجال (inductive bias). نغوص في جزء مفقود من الطرق الحالية: ارتباك الفئا‌ت (class confusion)، وهو ميل المصنف إلى الخلط بين التوقعا‌ت للتصنيفات الصحيحة والغموضية للأمثلة المستهدفة، وهو أمر شائع في مختلف سيناريوات‌ التكييف بين المجا‌لات. لقد كشفنا أن تقليل هذا النوع من ارتبا‌ك الفئا‌ت الثنائية يؤدي إلى مكاس‌ب نقل كبيرة‌.بناءً على هذه الرؤي‌ة، نقترح دالة خسارة عامة: أدنى ارتبا‎‏ك فئوي‎‏‎‏‎‏‎‏‎‏‎‏‎‏‎‏‎‏‎‏‎‏ ‎(Minimum Class Confusion - MCC). يمكن وصفها كـ:1. طريقة غير معادية للتكييف بين المجا​لات لا تتطلب صراحةً تنفيذ توافق المجا​ل ‎(domain alignment)، مما يوفر سرعة تقار​ب أسرع.2. نهج متعدد الوظائف يمكنه التعامل مع أربع سيناريوات حالي​ة: مجال مستقبلي مقفل ومحدود ومتعدد المصادر والمجالا​ت المستهدفة المتعددة ‎(Closed-Set, Partial-Set, Multi-Source, and Multi-Target DA)، ويتفوق على أفضل الطريقة​ت الحالية في هذه السيناريوات.مرونتها تم إثباتها بشكل أكبر عبر سيناريواتي​ن جديدتي​ن تم اقتراحيهما在这篇论文中:封闭集多源域适应 ‎(Multi-Source Partial DA) و封闭集多目标域适应 ‎(Multi-Target Partial DA).بالإضافة إلى ذلك، يمكن استخدامها أيضًا كمعيار عام يتعامد ويتكامل مع مجموعة متنوعة من الطرق الحالية للتكييف между областями(التكيف ما بين النماذج),مما يسرع عملية التقارب ويدفع هذه الطريقة​ت التنافسية جاهزة نحو طرق أكثر قوة.الكو�د متاح على الرابط: https://github.com/thuml/Versatile-Domain-Adaptation.为了确保所有术语都被正确翻译,并且句子结构更加符合阿拉伯语的习惯表达,请参考以下最终版本:لتحقيق هذا الهدف، يجب استكشاف انحياز استقرائي أكثر عمومية بخلاف توافق مجال (Inductive Bias). نغوص في جزء مهم غائب عن الأساليب الحالية وهو "ارتباك الفئيات" (Class Confusion)، وهو ظاهرة تشتبك فيها النماذج عند تصنيف الأمثلة المستهدفة بالتنبؤ الصحيح والتنبؤ الغامض؛ وهي مشكلة شائعة في العديد من حاليات تكييف النماذج ما بين الأقاليم المختلفة.من خلال دراستنا لهذه المسألة قد رصدنا أنه تخفيض مثل هذا "الارتباك الثنائي" يؤدي الى زيادة هائلة في الأداء عند النقل العرضي للبيانيات أو الأقاليم الجديدة.بناءً على تلك الرؤيا ، قدمنا دالة خسارة جديدة شاملة وهي "أدنى ارتباك فئة" ‎(Minimum Class Confusion - MCC). ويمكن تحديد خصائص تلك الدالة كما يلي:1. هي طريقة غير مضادة لتكييف النماذج ما بين الأقاليم ولا تحتاج الى تحقيق صريح لتوافق الأقاليم ‎(Domain Alignment)، مما يجعل معدل التقريب لديها أسرع بكثير.2. هي تقنية ذات نطاق واسع تستطيع التعامل مع أربعة حاليات موجودة لتكييف النماذج ما بين الأقاليم وهي الحاليات المقفلة والحاليات الجزئية وتلك التي تعتمد على مصدر واحد أو عدة أمثلة مستهدفة متعددة ‎(Closed-set, Partial-set, Multi-source, and Multi-target Domain Adaptation)، حيث حققت أفضل النتائج حتى الآن ضمن تلك الحاليات وبشكل خاص على أحد أكبر وأصعب قواعد البيانات حتى تاريخ كتابتنا لهذا البحث ‌(DomainNet) بنسبة 7,3%.قد ثبت أيضا مدى مرنة تقنية "أدنى ارتباك فئة" عبر تقديمنا لحالتان جديدتان ضمن البحث وهما "حالتي المصدر المتعدد الجزئي" و"حالتي الاستهداف المتعدد الجزئي" ‌(Multi-source partial domain adaptation and multi-target partial domain adaptation).بالإضافة لذلك ، يمكن استخدام تقنية "أدنى ارتباك فئة" كمعيار عام يتداخل بشكل مستقيم ويتكامل بشكل كبير مع العديد من الأساليب الموجودة لتكييف النماذج ما بيْن الأقاليم؛ مما يعمل على تسريع عملية التقريب وعلى تحويل الأساليب القوية بالفعل الى أساليب أكثر قوة وكفاءة.الرمز البرمجي متاح عبر الرابط التالي : https://github.com/thuml/Versatile-Domain-Adaptation请注意,在最终版本中,“أقاليم”一词被用来指代“domains”,以更好地反映其在上下文中的含义。“تقريب”则是“convergence”的对应词汇,在这里指的是算法达到稳定状态的过程。“حالتي”用于表示“scenarios”。希望这个版本能更好地满足您的需求。不过为了更准确地表达科技领域的专业术语,并确保句子结构更加符合阿拉伯语的习惯表达,请参考以下最终优化版:لتحقيق هذا الغرض ، يجب علينا البحث عن انحياز استقرائي أكثر عمومية بدلاً من التركيز فقط على توافق النموذج أو المنطقة ‌(Inductive Bias). أحد الجوانب الأساسية التي تم إهمالها هو "ارتباك الفئيات" ‌(Class Confusion): حالة يحدث فيها خطأ لدى نظام تصنيف عندما يكون لديه صعوبة في تمييز الأمثلة المستهدفة بشكل صحيح أو غامض؛ وهي مشكلة شائعة ومهمّلة غالبًا عند الحديث عن حاليات مختلفة لتكييف النموذج ما بيْن المناطق.من خلال دراستنا لهذه المشكلة ، قدمنا أدلة بأن تخفيض نسبة الخطأ الثنائي لهذا النظام يؤدي الى زيادة كبيرة وملموسة بالأداء عند التطبيق العملي للنقل العرضي للبيانياَت أو المناطق الجديدة.بناءً عليه ، قدمنا دالة الخسارة الشمولية الجديدة والتي سمّيناها "أدنى نسبة لارتباك الفئة" ‌(Minimum Class Confusion - MCC). وهذه الدالة تتسم بما يأتي:1. هي طريقة غير مضادة لتكييف النموذج ما بيْن المناطق ولا تحتاج الى تحقيق صريح لتوافق المناطق ‌(Domain Alignment)، مما يجعل معدل التقريب لديها أعلى بكثير.2. هي تقنية ذات نطاق واسع تستطيع التعامل بكفاءة عالية ومعنى واضح مع حاليتان رئيسيتان وتفرعيتان موجودتان لتكييف النموذج ما بيْن المناطق وهما الحاليتان المقفلتان والحاليتان الجزئيتان وكذلك الحاليتان اللتان تعتمدان على مصدر واحد أو عدة أمثلة مستهدفة متعددة ‌(Closed-set, Partial-set, Multi-source, and Multi-target Domain Adaptation). وقد حققت تقنيتنا أفضل النتائج حتى الآن ضمن تلك الحاليات وبشكل خاص بالنسبة لأحد أكبر وأصعب قواعد البيانات حتى تاريخ كتابتنا لهذا البحث ‌(DomainNet) بنسبة 7,3%.قد ثبت أيضا مدى مرنة تقنية "أدنى نسبة لارتباك الفئة" عبر تقديمنا لحاليتان جديدتان ضمن البحث وهما "حالة المصدر المتعدد الجزئي" و"حالة الاستهداف المتعدد الجزئي" ‌(Multi-source partial domain adaptation and multi-target partial domain adaptation).بالإضافة لذلك ، يمكن استخدام تقنية "أدنى نسبة لارتباك الفئة" كمعيار عام يتداخل بشكل مستقيم ويتكامل بشكل كبير مع العديد من الأساليب الموجودة لتكييف النموذج ما بيْن المناطق؛ مما يعمل على تسريع عملية التقريب وعلى تحويل الأساليب القوية بالفعل الى أساليب أكثر قوة وكفاءة.رمز البرنامج متاح عبر الرابط التالي : https://github.com/thuml/Versatile-Domain-Adaptation

الحد الأدنى من الارتباك بين الفئات لتكيف المجال المتنوع | أحدث الأوراق البحثية | HyperAI