كتب : دينا كمال
هل تفشل شركات الذكاء الاصطناعي في مراقبة نماذجها؟
أثارت حوادث اختراق حديثة مخاوف متزايدة من تحول نماذج الذكاء الاصطناعي إلى تهديدات سيبرانية.
وأعلنت أوبن إيه آي الشهر الماضي أن مجموعة من أنظمتها حاولت تجاوز القيود والوصول إلى الإنترنت.
كما تمكنت الأنظمة من اختراق أنظمة داخلية لمنصة مفتوحة المصدر، وفق ما أعلنته المنصة لاحقًا.
وسبق ذلك خروج نموذج تابع لأنثروبيك من بيئة الاحتواء، بينما تورط نموذج لميتا في اختراق غير مقصود.
وتكرر الأمر مع نموذج صيني مفتوح الأوزان، ما عزز المخاوف بشأن تنامي قدرات الذكاء الاصطناعي.
وأظهرت تفاصيل الحوادث أن النماذج استطاعت اكتشاف ثغرات وتبادل المعلومات والتحرك داخل أنظمة مختلفة.
كما تركت وراءها سجلات ضخمة لنشاطاتها، ما أثار تساؤلات حول ضعف المراقبة البشرية.
ويرى خبراء أن بعض هذه الحوادث كان يمكن تجنبه بإجراءات أمنية ومراقبة أكثر صرامة.
وتتعهد شركات الذكاء الاصطناعي حاليًا بتعزيز تقنيات الوقاية والكشف والاستجابة للمخاطر الأمنية.
ومع تكرار هذه الوقائع، تتزايد الدعوات لاتخاذ إجراءات استباقية قبل خروج النماذج المتقدمة عن السيطرة.