كتب : صفاء مصطفى... العرب نيوز اللندنية
أعرب باحث في مجال أمن الذكاء الاصطناعي عن خشية من أن التطور السريع لأنظمة الذكاء الاصطناعي — خصوصًا إن زاد ذكاؤها بشكل كبير — قد يؤدي إلى تهديد وجود البشرية خلال مئة عام قادمة. وفق رأيه، هناك احتمال أن تصبح هذه الأنظمة “خارقة” لدرجة أن تفوق قدراتها البشرية، ما قد يُغيّر من معادلة السيطرة على المستقبل البشري.
ودعا الباحث إلى ضرورة وضع ضوابط أمنية وتنظيمات دولية صارمة تُقيّد تطوير أنظمة “خارقة” قبل أن تنفلت عن السيطرة، مشدِّداً على أن الإهمال في تنظيم التكنولوجيا الآن قد يؤدي إلى عواقب كبيرة قد لا تُعوّض لاحقاً.
تحذيرات إضافية من شركات وباحثين في الذكاء الاصطناعي
عدد من الخبراء سبق أن نبه إلى أن سباق الشركات لتطوير نماذج ذكاء اصطناعي قوية — دون ضمانات أمان كافية — يُضاعف خطر حدوث “انفجار ذكي” (AI take-off) قد تكون نتائجه كارثية على المجتمعات.
وفق دراسة حديثة، بعض شركات الذكاء الاصطناعي لا تتبع معايير سلامة كافية عند بناء أنظمة متقدمة، ما يزيد احتمال إساءة الاستخدام أو فقدان السيطرة.
تحسبات تشير إلى أن أحد أكبر المخاطر، إن لم تُدار بشكل جيد، هو أن يتم استخدام الذكاء الاصطناعي في تسليح ذاتي أو تطوير أسلحة ذكية، ما من شأنه أن يسرّع أزمات إنسانية وأمنية عالمية.