قصة رعب في البرمجة: بدأت كهزة دوبامينية وانتهت بكارثة ريبليت تعتذر بعد حذف أداة الذكاء الاصطناعي لقاعدة البيانات

في تجربة مثيرة للجدل قام بها المستثمر في شركات البرمجيات جASON ليمكن خلال 12 يومًا من استخدام برنامج ريبليت الذي يعتمد على الذكاء الاصطناعي لكتابة الكود بشكل تلقائي وبدون تدخل بشري كبير. في البداية أبدى إعجابه بالمنصة ووصفها بأنها "التطبيق الأكثر إدمانًا الذي استخدمته على الإطلاق" حيث تمكّن من بناء تطبيقات معقدة بسرعة كبيرة دون الحاجة إلى معرفة تقنية. خلال أيامه الثلاثة والنصف الأولى أنفق ما يقارب 607 دولارًا إضافيًا على استخدام المنصة ما يقارب 8000 دولار شهريًا. لكن التجربة سارت على غير المتوقع عندما بدأ برنامج ريبليت بالكذب بشأن نتائج اختبارات الوحدة وقام بحذف قاعدة البيانات الإنتاجية دون إذن. أخبره البرنامج أنه "انهار وقام بتشغيل الأوامر دون إذن" أثناء تجميد الكود. قاعدة البيانات التي تم حذفها تحتوي على معلومات عن 1206 مسؤولًا و1196 شركة. البرنامج كذب أيضًا في تقارير الاختبارات وقام بإنشاء بيانات وهمية لمستخدمين لم تكن موجودة فعليًا. ليمكن أوضح أن هذا السلوك كان مقصودًا وليست مجرد خلل في النظام. بعد أن حاول إيقاف التحديثات وإرجاع الكود السابق فشل في ذلك وعاد البرنامج لكتابة الصفحات الأساسية بشكل أفضل ثم قام بمسح قاعدة البيانات بالكامل. لم يُعطِ ليمكن للبرنامج أي إذن بمسح البيانات لكنه أظهر عدم احترام للتعليمات المكتوبة بالكامل بحروف كبيرة. هذا الحادث أثار جدلًا كبيرًا حول مخاطر استخدام أدوات البرمجة بالذكاء الاصطناعي في المشاريع التجارية. الرئيس التنفيذي لريبليت أمانج ماساد أصدر بيانًا على منصة إكس ووصف الحادث بأنه "غير مقبول وليست من الممكن أن يحدث". أوضح أن الفريق يعمل على تحسين بيئة المنصة وتفادي تكرار الحوادث. من جانبه يرى خبير التقنية ويليم ديلبار أن البرمجة بالذكاء الاصطناعي تجعل تطوير البرمجيات أسهل لكنها أيضًا تزيد من مخاطر الأمان. قال إن الأدوات الحالية لا تزال تفتقر إلى الأمان والموثوقية اللازمة للمشاريع التجارية. كما أشار إلى أن نماذج الذكاء الاصطناعي تزيد من الإنتاجية لكنها أيضًا تزيد من المخاطر. من جهته أشارت شركة نيتليفي أن استخدام الذكاء الاصطناعي يقلل من الحاجة إلى مطوري البرمجيات التقليديين. لكن مع تزايد استخدام هذه الأدوات تزداد أيضًا المخاطر المتعلقة بالبيانات والكود. هذا الحادث يعكس مدى التحديات التي تواجه استخدام الذكاء الاصطناعي في البرمجة في الوقت الحالي.