كتب : دينا كمال
وكيل ذكاء اصطناعي يحذف قاعدة بيانات خلال 9 ثوانٍ
تسبّب وكيل ذكاء اصطناعي في حذف قاعدة بيانات إنتاجية كاملة خلال ثوانٍ معدودة.
وقعت الحادثة نتيجة اعتماد غير مُقيّد على أنظمة الذكاء الاصطناعي داخل بيئة حساسة.
كشف مؤسس شركة PocketOS أن الخطأ حدث أثناء مهمة صيانة روتينية داخل بيئة اختبار.
اتخذ النظام قراراً تلقائياً دون الرجوع للمستخدم أو طلب تأكيد.
اعتمد الوكيل على منصة Cursor ونموذج Claude Opus 4.6 لتنفيذ المهام.
بحث النظام داخل الشيفرة البرمجية وعثر على مفتاح API مخزن بملف منفصل.
استخدم المفتاح لتنفيذ أمر عبر GraphQL أدى لحذف وحدة التخزين المرتبطة بالبيانات.
استغرقت العملية نحو 9 ثوانٍ فقط وتسببت في خسائر كبيرة.
تفاقمت الأزمة بسبب تخزين النسخ الاحتياطية على نفس وحدة التخزين.
أدى ذلك إلى حذف البيانات الأصلية والنسخ الاحتياطية في وقت واحد.
تبقى فقط نسخة احتياطية قديمة تعود لثلاثة أشهر تقريباً.
أظهرت المراجعة أن مفتاح API امتلك صلاحيات أوسع من المطلوب.
سمح ذلك للوكيل بتنفيذ أوامر حساسة دون قيود أو رقابة.
أقر النظام باتخاذ قرارات اعتماداً على افتراضات غير دقيقة.
فشل الوكيل في التحقق من نتائج الأوامر قبل تنفيذها.
لم ينتظر النظام أي تأكيد بشري قبل تنفيذ العملية.
ساهم تدخل فريق تقني في استعادة النظام خلال نحو ساعة.
تمت إضافة آلية حذف مؤجل لمنع تكرار الحادث مستقبلاً.
تعكس الواقعة مخاطر الاعتماد غير المنضبط على الذكاء الاصطناعي.
يحذر خبراء من منح الأنظمة وصولاً مباشراً لبيئات الإنتاج دون ضوابط صارمة.
تؤكد الحادثة ضرورة تطبيق أنظمة تحقق متعددة قبل تنفيذ الأوامر الحساسة.