HyperAI
منذ يوم واحد

OmniArch: بناء نموذج أساسي للحساب العلمي

Tianyu Chen, Haoyi Zhou, Ying Li, Hao Wang, Chonghan Gao, Rongye Shi, et al
OmniArch: بناء نموذج أساسي للحساب العلمي
الملخص

أحدثت النماذج الأساسية ثورة في نمذجة اللغة، بينما لا يزال مصير نجاحها في مجال الحوسبة العلمية موضع استكشاف غير مكتمل. نقدّم "أومي-أرك" (OmniArch)، أول نموذج تجريبي يهدف إلى حل المشكلات العلمية متعددة المقاييس ومتعددة الفيزياء مع الحفاظ على التوافق الفيزيائي. وقد تم التغلب على جميع التحديات الثلاثة من خلال بنية موحدة واحدة. تشمل مرحلة التدريب المسبق للنموذج مشفرًا فورييه (Fourier Encoder-decoder) يُخفّف من عدم التوافق بين الأبعاد المنفصلة، وبنية رئيسية قائمة على نموذج التحويل (Transformer) تقوم بدمج الكميات عبر الديناميكيات الزمنية، إلى جانب مُعدِّل المعادلات التفاضلية الجزئية (PDE-Aligner) الجديد الذي يُنفّذ التدريب الدقيق المُوجَّه بالفيزياء في ظل ظروف مرنة. إلى حدّ علمنا، فإننا أول من أجرى تدريبًا موحدًا لحالات الأبعاد 1D و2D و3D على مجموعة بيانات PDEBench، وقد أرسى هذا النموذج ليس فقط معايير أداء جديدة لمعادلات PDE في الأبعاد 1D و2D و3D، بل أظهر أيضًا مرونة استثنائية في التكيّف مع فيزياء جديدة من خلال نهجي التعلم في السياق (in-context) والتعلم الصفري (zero-shot)، ما يدعم تطبيقات هندسية واقعية ويسهم في اكتشاف فيزيائي مستقبلي.