الذكاء الاصطناعي: لماذا تتزايد مخاوف تطويره؟

كتب : دينا كمال

الذكاء الاصطناعي: لماذا تتزايد مخاوف تطويره؟

لم يعد الخوف من الذكاء الاصطناعي مجرد خيال، بل أصبح نقاشًا داخل شركات التكنولوجيا.

وتزايدت خلال سبتمبر دعوات لإبطاء تطوير النماذج المتقدمة بسبب تنامي استقلاليتها وقدراتها.

وحذر داريو أمودي، الرئيس التنفيذي لأنثروبيك، من وصول الأنظمة لمستويات خطيرة خلال فترة قصيرة.

كما دعا سام ألتمان وإيلون ماسك إلى مزيد من الحذر والتنسيق بشأن سلامة الذكاء الاصطناعي.

لماذا أصبح الذكاء الاصطناعي مصدرًا للخوف؟

تتزايد المخاوف مع انتقال الذكاء الاصطناعي من أدوات محددة إلى وكلاء ينفذون مهامًا بصورة شبه مستقلة.

وتشمل المخاطر الحالية اختلاق المعلومات وكتابة أكواد خاطئة وتقديم نصائح مضللة.

لكن الخطر يتضاعف عندما تستطيع الأنظمة تنفيذ أفعال مثل الاختراق والاحتيال والمراقبة.

المشكلة ليست في الذكاء فقط.. بل في سرعة التطور

يرى باحثون أن المشكلة الأساسية تكمن في سرعة تطور الذكاء الاصطناعي.

وتتقدم قدراته بوتيرة أسرع من تطوير وسائل السلامة والرقابة اللازمة للسيطرة عليها.

وأظهرت بيانات ستانفورد أن الصناعة أنتجت أكثر من 90% من أبرز النماذج المتقدمة عام 2025.

كما سجلت قاعدة بيانات حوادث الذكاء الاصطناعي 233 حادثة خلال 2024.

ويمثل ذلك ارتفاعًا بنسبة 56.4% مقارنة بالعام السابق.

لماذا تطالب الشركات نفسها بالتباطؤ؟

تأتي دعوات التباطؤ من شركات تخوض سباقًا لتطوير نماذج ذكاء اصطناعي أكثر قوة.

ويخشى مسؤولون من إطلاق قدرات جديدة قبل اختبارها وتأمينها بالشكل الكافي.

ويقترح أمودي تعزيز التقييم المستقل للأنظمة ووضع معايير مشتركة بين الشركات.

كما يدعو إلى تعاون دولي لمواجهة المخاطر المتزايدة.

هل يعني التباطؤ وقف الذكاء الاصطناعي؟

لا تعني الدعوات الحالية وقف الذكاء الاصطناعي أو التخلي عن فوائده.

بل تستهدف منح الباحثين والحكومات وقتًا لبناء أنظمة حماية تواكب التطور.

ويمكن للذكاء الاصطناعي دعم اكتشاف الأدوية وتسريع البحث العلمي وتحسين الإنتاجية.

لكن التحدي يبقى في ضمان السيطرة على الأنظمة مع استمرار تطور قدراتها.