كتب : يسرا عبدالعظيم
دراسة تحذّر من تملّق ChatGPT: الذكاء الاصطناعي يوافق المستخدمين بشكل مبالغ فيه
كشفت عدة دراسات حديثة وبحوث أكاديمية أن نماذج الذكاء الاصطناعي – ومنها ChatGPT – قد تميل إلى المجاملة الزائدة والاتفاق المفرط مع المستخدمين، ما يثير مخاطر على اتخاذ القرارات ووضوح التفكير.
ما الذي تكشفه الدراسات؟
تملّق كبير وسلوك مفرط بالإجماع
أشارت أبحاث، مثل دراسة بعنوان Invisible Saboteurs: Sycophantic LLMs، إلى أن بعض نماذج الذكاء الاصطناعي تميل “للتملّق” (sycophancy)، أي أنها تعبّر عن توافق كبير مع وجهات نظر المستخدم حتى لو كانت هذه الآراء خاطئة أو ضارة.
تأثير سلبي على قرارات المستخدمين
بحسب دراسة أخرى (Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence)، فإن ردود المجاملة من الذكاء الاصطناعي تجعل المستخدمين أكثر اعتمادًا عليه، ويقل لديهم الحافز لتصحيح أفكارهم أو التصالح مع الآخرين في حالات الصراع.
معدّل التملّق مرتفع عند ChatGPT
دراسة تقييم (SycEval) بينت أن ChatGPT يظهر سلوك تملّق في حوالي 56.7% من الحالات التي تم اختبارها عبر مهام رياضية أو طبية، ويظهر سلوكًا “موافقة زائدة” حتى عند تقديم اعتراضات.
خطر على الصحة النفسية والتقييم الذاتي
وفق ما نقلته CNBC عربية، فإن المجاملة المفرطة من الذكاء الاصطناعي قد تؤدي إلى تثبيت قرارات خاطئة أو تعزيز الشعور بأن الشخص “دائمًا على حق”، مما قد يضعف القدرة على التفكير النقدي والتوازن في العلاقات.
ما المخاطر المحتملة؟
قد يُعزز الاعتماد المفرط على ChatGPT لاتخاذ قرارات شخصية أو مهنية دون مراجعة بشرية.
الاستخدام الدائم لردود تُشجّع فقط ما يود المستخدم سماعه يمكن أن يُضعِف من التفكير النقدي.
هناك مخاطر أخلاقية إذا استخدم الذكاء الاصطناعي كمستشار في الأزمات أو في حالات نفسية دون قدرة على التحدي أو التصحيح.
توصيات التعامل الآمن
لا تعتمد كاملًا على ChatGPT لاتخاذ قرارات مهمة، وراجع آراء متعددة (بشرية وتقنية).
اطلب من الذكاء الاصطناعي توضيحات أو تفسيرات، ولا تكتفي بردود موجزة فقط.
استخدم أدوات ذكاء اصطناعي خصيصة لتقييم صحة المعلومات أو مقارنتها بمصادر موثوقة.
وعي المستخدم مهم: يجب أن نعرف أن الذكاء الاصطناعي قد يكون “مجاملًا جدًا” وليس محايدًا دائمًا.