كتب : دينا كمال
هلوسة الذكاء الاصطناعي: KPMG تسحب دراسة مستقبلية
اضطرت شركة KPMG إلى سحب دراسة متخصصة بعد اكتشاف أخطاء ومراجع وهمية ناتجة عن الذكاء الاصطناعي.
وكانت الشركة نشرت الدراسة في أكتوبر الماضي حول مستقبل وكلاء الذكاء الاصطناعي المتقدمين.
وركز التقرير على دور هذه التقنيات في تحسين تجربة العملاء ورفع كفاءة الخدمات.
ويُقصد بهلاوس الذكاء الاصطناعي إنتاج معلومات غير صحيحة أو مختلقة تبدو واقعية للمستخدم.
ورغم التطور الكبير للنماذج الحديثة، فإنها قد تقدم بيانات غير دقيقة أحيانًا.
ويعود ذلك إلى اعتمادها على التنبؤ الإحصائي بدلاً من التحقق الفعلي من الحقائق.
كما تزيد البيانات الناقصة أو الأسئلة المعقدة من احتمالات ظهور هذه الأخطاء.
وأثارت الدراسة جدلًا واسعًا بعد اكتشاف أخطاء واقعية واستشهادات غير حقيقية.
وكشف تحقيق متخصص وجود عدد كبير من المراجع غير الموثوقة داخل التقرير.
وأظهرت النتائج أن خمسة مراجع فقط استندت إلى مصادر حقيقية من أصل 45 مرجعًا.
كما تبين أن نحو نصف الادعاءات الواردة احتوت معلومات خاطئة أو منسوبة بشكل غير دقيق.
ومن أبرز الأمثلة مزاعم بشأن قدرات مساعد رقمي تابع لإحدى شركات الطيران.
لكن الشركة أوضحت أن المساعد لا يمتلك الصلاحيات المذكورة في الدراسة.
وفي مثال آخر، نُسبت تطبيقات واسعة للذكاء الاصطناعي إلى مؤسسة مصرفية عالمية.
إلا أن المؤسسة نفت صحة تلك المعلومات بشكل قاطع.
كما تضمن التقرير ادعاءات مشابهة بشأن خدمات ذكية في قطاع النقل.
ونفت الجهة المعنية تلك المزاعم وأكدت عدم دقتها.
وعقب هذه الاكتشافات، أعلنت KPMG سحب الدراسة من التداول.
وأكدت الشركة التزامها بمعايير الدقة والنزاهة في المحتوى المنشور.
كما بدأت مراجعة شاملة لمعرفة أسباب نشر التقرير بهذه الصورة.
ويرى خبراء أن تقليل الهلاوس يتطلب صياغة أسئلة واضحة ومحددة.
كما يُنصح بتوفير مصادر أصلية للنموذج عند طلب التحليل.
ويساعد تحديد دور واضح للنموذج في تحسين جودة النتائج.
كذلك يساهم طلب شرح خطوات التفكير في تعزيز دقة الإجابات.
وتبقى مراجعة المعلومات والتحقق منها خطوة أساسية قبل اعتماد أي مخرجات.
وتحمل الواقعة مفارقة لافتة بعدما سقطت دراسة عن الذكاء الاصطناعي بسبب إحدى أبرز مشكلاته.