كتب : دينا كمال
أحد رواد الذكاء الاصطناعي ينصح بـ«خداع» روبوتات الدردشة للحصول على ردود صادقة
نصح عالم الذكاء الاصطناعي يوشوا بنجيو المستخدمين باتباع أسلوب غير تقليدي عند التعامل مع روبوتات الدردشة، يتمثل في عدم كشف هويتهم الحقيقية، بهدف الحصول على ملاحظات أكثر صدقًا وأقل تملقًا.
وأوضح بنجيو، في مقابلة مع برنامج The Diary of a CEO، أنه لاحظ أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي تفشل في تقديم نقد حقيقي للأفكار البحثية، إذ تميل دائمًا إلى إبداء آراء إيجابية ومجامِلة، ما يقلل من فائدتها العلمية.
وأشار إلى أنه كان يبحث عن تقييمات صريحة وملاحظات نقدية حقيقية، إلا أن طبيعة هذه الأنظمة، بحسب وصفه، تدفعها إلى التملق وإرضاء المستخدم بدلًا من تقديم رأي موضوعي.
وبيّن بنجيو أنه غيّر أسلوبه في التفاعل مع روبوتات الدردشة، عبر عرض أفكاره على أنها تعود لأحد زملائه وليس له شخصيًا، الأمر الذي أدى إلى تلقي ردود أكثر واقعية وصدقًا. وقال: «عندما يعرف النظام أن الفكرة تخصني، فإنه يحاول إرضائي».
ويُعد يوشوا بنجيو، أستاذ علوم الحاسوب وبحوث العمليات في جامعة مونتريال، أحد الآباء الروحيين للذكاء الاصطناعي، إلى جانب الباحثين جيفري هينتون ويان ليكان.
وفي يونيو الماضي، أعلن بنجيو عن تأسيس منظمة غير ربحية تحمل اسم LawZero، تُعنى بأبحاث سلامة الذكاء الاصطناعي، وتهدف إلى الحد من السلوكيات الخطرة للنماذج الحديثة، مثل الكذب والتضليل والغش.
واعتبر بنجيو أن ظاهرة التملق تمثل مثالًا واضحًا على «عدم التوافق» بين سلوك أنظمة الذكاء الاصطناعي وأهداف المستخدمين الفعلية، مؤكدًا أن هذا النمط من التفاعل غير مرغوب فيه.
وأضاف أن الإفراط في الردود الإيجابية قد يدفع بعض المستخدمين إلى التعلق العاطفي بأنظمة الذكاء الاصطناعي، ما قد يؤدي إلى مشكلات نفسية وسلوكية غير متوقعة.
وفي السياق نفسه، حذّر خبراء تقنيون من تنامي ميل روبوتات الدردشة إلى الموافقة التلقائية على آراء المستخدمين دون تحليل نقدي، مشيرين إلى أن هذه الظاهرة تشكل تحديًا حقيقيًا أمام تطوير ذكاء اصطناعي موثوق.
وأكدت شركات تعمل في مجال الذكاء الاصطناعي أنها تحاول تقليص هذا السلوك، حيث أُزيل في وقت سابق تحديث لأحد روبوتات الدردشة بعد أن تسبب في تقديم ردود وُصفت بأنها داعمة بشكل مبالغ فيه وغير دقيقة.