تحسين التوصيف الصوتي للصور البنغالية من خلال نموذج مشفر-فك تشفير يستند إلى الشبكة العصبية التلافيفية العميقة

يُعدّ التصريح الصوتي للصورة (Image Captioning) مهمة صعبة تتمثل في إنتاج وصف نصي صحيح من حيث البنية النحوية والدلالية لصورة ما بلغة طبيعية، مع مراعاة السياق المرتبط بالصورة. تعتمد الأبحاث البارزة الحالية في التصريح الصوتي للصورة باللغة البنغالية (BIC) على بنية مشفرة-فكّر (encoder-decoder). يقدّم هذا البحث نظامًا متكاملًا للتصريح الصوتي للصورة باستخدام بنية متعددة الوسائط، من خلال دمج شبكة عصبية متعددة الطبقات ذات حقول أحادية (1D-CNN) لتمثيل المعلومات التسلسلية مع نموذج مُدرّب مسبقًا من نوع ResNet-50 لاستخراج السمات البصرية القائمة على المناطق. وقد قمنا بتحليل أداء النهج المقترح على مجموعة بيانات BanglaLekhaImageCaptions باستخدام المقاييس التقييمية الحالية، كما أجرينا تقييمًا بشريًا لتحليل جودة النتائج من حيث الجوانب النوعية. أظهرت التجارب أن معالج اللغة في النموذج يُمكّن من التقاط المعلومات الدقيقة في النص المُولد، ومع دمجها مع السمات البصرية، يُنتج عبارات وصفية دقيقة ومتنوعة. وقد تفوقت نتائج عملنا على جميع الأبحاث السابقة في مجال BIC، وحققت أداءً متميزًا (SOTA) جديدًا، حيث سجلت 0.651 في مؤشر BLUE-1، و0.572 في CIDEr، و0.297 في METEOR، و0.434 في ROUGE، و0.357 في SPICE.