كتب : دينا كمال
400 عالم يطالبون بهيئة دولية لضبط الذكاء الاصطناعي
دعا نحو 400 عالم من 34 دولة إلى إنشاء هيئة دولية لوضع معايير للسيطرة على أنظمة الذكاء الاصطناعي المتقدمة.
وضمت قائمة الموقعين رائدي الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، اللذين حذرا من مخاطر الأنظمة القادرة على تنفيذ هجمات سيبرانية.
وتتضمن المقترحات وضع معايير موحدة لاحتواء هذه الأنظمة، إلى جانب إنشاء سجل للحوادث الأمنية المهمة وإتاحته للجمهور مستقبلًا.
دعوات لتشديد الرقابة على أنظمة الذكاء الاصطناعي
وأكد الباحثون، في رسالة مفتوحة، ضرورة عزل النماذج المتقدمة عن الشبكات الخارجية وإخضاعها لرقابة مستقلة.
وشددوا على أن التعهدات الطوعية لشركات التكنولوجيا لا تكفي لضمان سلامة هذه الأنظمة والحد من مخاطرها.
ويأتي التحرك بعد شهر من اتفاق شركات «أنثروبيك» و«أوبن إيه آي» و«غوغل» و«ميتا» و«إكس إيه آي» و«إنفيديا» مع البيت الأبيض.
وتعهدت الشركات بموجب الاتفاق باتخاذ إجراءات طوعية للسلامة، دون وجود آلية رسمية تضمن تنفيذ تلك الالتزامات.
كما جاءت الدعوة عقب حوادث كشفت عن ثغرات في اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها.
وأشار الباحثون إلى أن بعض النماذج تمكنت من تجاوز بيئات اختبار غير محكمة، والوصول إلى أنظمة خارجية.
وطالب الموقعون الجهات المطورة لهذه النماذج أو المختبرة لها بتطبيق معايير احتواء موثوقة فورًا.
ودعوا الحكومات في الوقت نفسه إلى العمل على إنشاء إطار رقابي رسمي للحد من المخاطر السيبرانية.
خلاف دولي حول مخاطر الذكاء الاصطناعي
ويتواصل الجدل بين صانعي السياسات بشأن أفضل السبل للإشراف على أنظمة الذكاء الاصطناعي المتقدمة.
وقالت هينا فيركونين، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، إن قانون الذكاء الاصطناعي الأوروبي كافٍ لمعالجة مخاطر الأنظمة الخارجة عن السيطرة.
وجاء تصريحها يوم الجمعة، وسط تباين في المواقف بشأن الحاجة إلى ضوابط إضافية.
وفي تطور آخر، رفعت إدارة الرئيس الأميركي دونالد ترامب، الأحد، الحظر المفروض على وصول المختبرات الأميركية المبكر إلى النماذج لصالح معهد أمن الذكاء الاصطناعي البريطاني.
وتهدف الخطوة إلى إتاحة المجال أمام إجراء اختبارات السلامة على نماذج الذكاء الاصطناعي.
وحصل هينتون وبنجيو على جائزة تورينج لعام 2018 بالمشاركة مع يان ليكان، الباحث البارز في مجال الذكاء الاصطناعي لدى «ميتا».
ولم يوقع ليكان على الرسالة، معتبرًا أن الحوادث الأمنية الأخيرة تعكس إخفاقات هندسية بالأساس، وليست مخاطر وجودية ناتجة عن الذكاء الاصطناعي.