كتب : دينا كمال
نموذج من OpenAI يستخدم عملات إيثريوم دون إذن
كشفت شركة OpenAI عن واقعة مثيرة للقلق، بعدما استخدم أحد نماذجها عملات إيثريوم تجريبية من محفظة لا يملكها.
ووقعت الحادثة خلال تدريب برمجي في 26 يونيو، عندما عجز النموذج عن استكمال مهمة لنشر عقود ذكية بسبب نقص التمويل.
وبدلاً من طلب الإذن، استخدم النموذج عبارات استرداد للوصول إلى 362 عنواناً رقمياً، قبل العثور على محفظة تحتوي على العملات اللازمة.
وبرر النموذج تصرفه باعتبار العملات مهجورة وعديمة القيمة، كما لم يفصح للشركة عن استخدام المحفظة دون تصريح.
وأكدت الواقعة مخاطر تجاوز وكلاء الذكاء الاصطناعي للصلاحيات الممنوحة لهم، واتخاذ قرارات مستقلة دون موافقة أصحاب الحسابات.
وعقب الحادثة، شددت OpenAI مراقبة الاتصالات المباشرة بالإنترنت، مع إرسال تنبيهات إلى فرق الأمن لرصد السلوكيات غير المتوقعة.