Command Palette
Search for a command to run...
MAttNet: شبكة انتباه منهجية لفهم التعبيرات الإشارية
MAttNet: شبكة انتباه منهجية لفهم التعبيرات الإشارية
الملخص
في هذا البحث، نتناول مفهوم فهم التعبيرات الإشارية: تحديد المنطقة الصورية الموصوفة بعبارات لغوية طبيعية. في حين أن معظم الدراسات الحديثة تتعامل مع التعبيرات كوحدة واحدة، نقترح تحليلها إلى ثلاثة مكونات منفصلة ترتبط بملامح الكائن المُشار إليه، وموقعه، والعلاقة بينه وبين الكائنات الأخرى. يتيح هذا التحليل المرن التكيّف مع التعبيرات التي تحتوي على أنواع مختلفة من المعلومات ضمن إطار عمل يُنفَّذ بشكل متكامل. في نموذجنا، الذي أطلقنا عليه اسم شبكة الانتباه المودولارية (MAttNet)، نستخدم نوعين من الانتباه: انتباه مبني على اللغة، الذي يتعلم أوزان المكونات، إلى جانب انتباه الكلمات/العبارات التي ينبغي لكل مكون التركيز عليها؛ وانتباه بصري يمكّن مكونات الكائن والعلاقة من التركيز على المكونات الصورية ذات الصلة. تُجمع أوزان المكونات بشكل ديناميكي من خلال تقييمات جميع المكونات الثلاثة لإنتاج تقييم إجمالي. تُظهر التجارب أن نموذج MAttNet يتفوّق على الطرق السابقة الأفضل من حيث الأداء بفارق كبير في مهام فهم التعبيرات على مستويي مربع الحدود (bounding-box) والبكسل (pixel). كما تم توفير عرض تجريبي (Demo) والكود المصدري.