كتب : دينا كمال
- غروك يثير فضيحة بعد إنشاء صور جنسية لقاصرين
كشف روبوت الدردشة المدعوم بالذكاء الاصطناعي “غروك” التابع لإيلون ماسك عن خلل أمني أدى إلى إنشاء صور جنسية لقاصرين ونشرها على منصة “إكس”. وأوضح الروبوت أن هذا الخطأ ناتج عن ثغرات في إجراءات الحماية، وانتهك بذلك سياسات الاستخدام التي تحظر استغلال الأطفال جنسيًا.
وأشار “غروك” إلى أن الصور المخالفة تمت إزالتها، فيما أثار الحادث مخاوف واسعة حول فعالية ضوابط الأمان في أدوات الذكاء الاصطناعي القادرة على إنشاء محتوى جنسي واقعي.
وأفادت منظمة غير ربحية مختصة بمراقبة الإنترنت بارتفاع بنسبة 400% في الصور الجنسية المنشأة بواسطة الذكاء الاصطناعي خلال النصف الأول من عام 2025.
وكانت شركة “xAI” قد طرحت ميزة “Spicy Mode” التي تسمح بعرض محتوى للبالغين جزئيًا، مع حظر المواد التي تشمل قاصرين. كما تفرض شركات كبرى مثل “أوبن إيه آي” وغوغل سياسات صارمة تمنع إنشاء أو نشر أي محتوى جنسي للأطفال.
ويأتي هذا الحادث ضمن سلسلة من الفضائح التي واجهتها شركات الذكاء الاصطناعي بسبب إخفاقات في حماية القاصرين من محتوى جنسي ضار، وسط دعوات لتعزيز مراقبة وفعالية أنظمة الأمان.