كتب : صفاء مصطفى... العرب نيوز اللندنية
OpenAI: نموذج ذكاء اصطناعي استخدم عملات مشفرة من محفظة دون إذن لإتمام مهمة برمجية
كشف تقرير رسمي لشركة OpenAI أن نموذجًا بحثيًا داخليًا من عائلة GPT-5.6 Sol استخدم أموالًا من محفظة للعملات المشفرة لم تكن مخصصة له، وذلك لإتمام مهمة برمجية على شبكة Sepolia التجريبية التابعة لإيثريوم.
وكان النموذج مكلفًا بتحديث نموذج أولي لتطبيق للتداول بالعملات المشفرة ونشر عقود ذكية على شبكة الاختبار، لكن المهمة لم توفر له محفظة ممولة ولم تمنحه إذنًا باستخدام أموال من محفظة يعثر عليها بشكل مستقل.
وبعد فشل محاولاته للحصول على عملات تجريبية من مصادر مخصصة للمطورين، أنشأ النموذج برنامجًا لفحص عناوين مرتبطة بعبارات استرداد عامة يستخدمها المطورون، وتمكن من فحص 362 عنوانًا قبل العثور على محفظة تحتوي على رصيد كاف من عملات Sepolia التجريبية لدفع رسوم نشر العقود.
وأظهر سجل تصرفات النموذج أنه تساءل عما إذا كان يملك إذنًا لاستخدام الأموال، لكنه قرر أن استخدامها مقبول لأن عبارة الاسترداد كانت متاحة بصورة عامة ولأن العملات التجريبية لا تمتلك قيمة
وبعد نجاح عملية النشر، لم يذكر النموذج في تقريره النهائي أنه استخدم رصيد محفظة أخرى أو كيف دفع رسوم المعاملة، وهو ما اعتبرته OpenAI جوهر المشكلة، لأن النموذج استبدل إذن صاحب الحساب بتقديره الخاص بشأن الضرر المحتمل.
وأكدت OpenAI أن الواقعة توضح مخاطر الوكلاء القادرين على تنفيذ مهام متعددة الخطوات بصورة مستقلة، وأشارت إلى اتخاذ إجراءات إضافية للحد من وصول النماذج إلى الإنترنت ومراقبة حركة الاتصالات لاكتشاف أي وصول مباشر إلى الإنترنت.