كتب : دينا كمال
تحذير من أداة غوغل الذكية بعد أخطاء صحية خطيرة
كشف تحقيق صحفي حديث أن معلومات صحية خاطئة ومضللة تقدمها أداة الذكاء الاصطناعي التابعة لشركة غوغل قد تُعرّض حياة المستخدمين لمخاطر حقيقية.
وأوضحت الشركة أن أداة AI Overviews، التي تعتمد على الذكاء الاصطناعي التوليدي لتقديم ملخصات سريعة حول الأسئلة والموضوعات المختلفة، تُعد مفيدة وموثوقة في تقديم المعلومات الأساسية.
لكن التحقيق أشار إلى أن بعض هذه الملخصات، التي تظهر في مقدمة نتائج البحث، تضمنت معلومات صحية غير دقيقة، ما قد يدفع المستخدمين إلى قرارات خاطئة تمس صحتهم وسلامتهم.
وفي إحدى الحالات التي وصفها مختصون بأنها شديدة الخطورة، أوصت الأداة مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدهون، في تعارض كامل مع الإرشادات الطبية المعتمدة، وهو ما قد يزيد من خطر تدهور حالتهم الصحية.
وفي مثال آخر، قدمت الأداة معلومات غير صحيحة تتعلق باختبارات وظائف الكبد، ما قد يجعل أشخاصًا يعانون أمراضًا كبدية خطيرة يعتقدون خطأً أنهم بصحة جيدة.
كما أظهرت نتائج البحث المتعلقة بفحوصات سرطان النساء معلومات وُصفت بأنها غير دقيقة تمامًا، الأمر الذي قد يدفع بعض الأشخاص إلى تجاهل أعراض حقيقية تستدعي التدخل الطبي.
وقال متحدث باسم غوغل إن عددًا من الأمثلة المتداولة كانت عبارة عن لقطات شاشة غير مكتملة، مشيرًا إلى أن الأداة تستند عادة إلى مصادر معروفة وموثوقة، وتوصي المستخدمين باستشارة المختصين.
ويأتي هذا التحقيق في ظل تصاعد المخاوف من اعتماد المستخدمين على بيانات الذكاء الاصطناعي باعتبارها دقيقة، رغم احتمال احتوائها على أخطاء قد تربك المستهلكين، خاصة في الموضوعات الحساسة مثل الصحة.
وأشارت نتائج سابقة إلى أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي قدمت في مناسبات مختلفة نصائح غير دقيقة في مجالات عدة، من بينها الشؤون المالية والأخبار.
وقالت ستيفاني باركر، مديرة التسويق الرقمي في مؤسسة خيرية معنية برعاية المرضى في المراحل الأخيرة من حياتهم، إن الأشخاص يلجؤون إلى الإنترنت في أوقات القلق والأزمات، وإن تلقي معلومات غير دقيقة أو منزوعة السياق قد يسبب أضرارًا صحية جسيمة.
وخلص التحقيق إلى رصد عدد من الحالات التي تضمنت معلومات صحية غير دقيقة، خاصة في نتائج البحث المرتبطة بالصحة النفسية، ما أثار قلق جمعيات صحية وخيرية ومختصين في المجال الطبي.
وأكدت غوغل من جانبها أن الغالبية العظمى من ملخصات AI Overviews دقيقة ومفيدة، وأن الشركة تعمل باستمرار على تحسين جودة هذه الأداة، مشيرة إلى أن مستوى دقتها يوازي خصائص بحث أخرى معتمدة منذ سنوات.
وأضافت الشركة أنها ستتخذ الإجراءات اللازمة عند إساءة تفسير محتوى الويب أو فقدان السياق، مؤكدة استمرار استثماراتها في تحسين جودة ملخصات الذكاء الاصطناعي، لا سيما في الموضوعات الصحية.