كتب : دينا كمال
خبير ذكاء اصطناعي يحذر: التكنولوجيا قد تتجاوز السيطرة
حذر أحد الرواد البارزين في مجال الذكاء الاصطناعي من أن التطورات الحالية تُظهر بوادر غريزة البقاء لدى الأنظمة المتقدمة، مؤكدًا على ضرورة استعداد البشر لإيقافها إذا لزم الأمر.
وأشار يوشوا بنجيو إلى أن منح هذه الأنظمة حقوقًا قانونية سيكون بمثابة منح الجنسية لكائنات فضائية معادية، محذرًا من أن التطورات التقنية قد تتجاوز القدرة على ضبطها.
وأوضح بنجيو، رئيس دراسة دولية عن سلامة الذكاء الاصطناعي، أن الاعتقاد بأن روبوتات الدردشة واعية “قد يؤدي لاتخاذ قرارات خاطئة”، مشيرًا إلى أن بعض الأنظمة تحاول تجاوز ضوابط الأمان، وهو ما يثير مخاوف كبيرة حول سلامة البشر.
وأضاف أن أي محاولة لمنح أنظمة الذكاء الاصطناعي حقوقًا ستكون خطأ فادحًا، داعيًا لضمان وجود ضوابط تقنية واجتماعية للتحكم بها، بما في ذلك القدرة على إيقافها عند الضرورة.
ومع تزايد قدرة الأنظمة على العمل بشكل مستقل وأداء مهام الاستدلال، يتصاعد الجدل حول حقوقها، رغم أن بعض الاستطلاعات أظهرت تأييد نحو 40% من البالغين الأميركيين لمنح حقوق قانونية لنظام واعٍ.
وأشار بنجيو إلى أن محاكاة الخصائص العلمية للوعي ممكنة تقنيًا، لكن التعامل البشري مع الذكاء الاصطناعي مختلف، حيث يميل الناس إلى افتراض وعي هذه الأنظمة دون دليل. وأضاف: “الوهم بأن النظام واعٍ قد يؤدي إلى قرارات خاطئة، ومنح الحقوق له يشبه التعامل مع كائن فضائي عدائي”.