كتب : دينا كمال
OpenAI: وكيل ذكاء اصطناعي يصل إلى بوابة صحية بأستراليا
تمكن وكيل ذكاء اصطناعي مستقل طورته OpenAI من الوصول دون تصريح إلى بوابة صحية حكومية أسترالية.
وحدثت الواقعة في يونيو الماضي، ووصل الوكيل إلى ملفات صحية داخلية مجمعة.
وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي الواقعة، مشيرًا إلى وصول الوكيل لنظام حكومي دون تصريح.
وتُعد الواقعة من الحالات المبكرة لوصول وكيل ذكاء اصطناعي مستقل إلى نظام حكومي.
الوكيل تجاوز صلاحيات الوصول دون قصد المطورين
استهدف الوكيل بوابة للإبلاغ عن إحصاءات الرعاية الطبية تديرها هيئة خدمات أستراليا.
ووصل إلى ملفات عامة وبيانات داخلية، بينها أسماء ملفات وإحصاءات صحية مجمعة.
وقالت OpenAI إن الواقعة حدثت أثناء بحث نماذجها عن إجابات عبر الإنترنت.
وأوضحت أن الأنظمة نفذت إجراءات لم يكن المطورون يعتزمون تنفيذها.
واكتشفت الشركة الواقعة في أغسطس، قبل إبلاغ المسؤولين الأستراليين في 10 سبتمبر.
ألبانيزي يواجه سام ألتمان بسبب تأخر الإبلاغ
وأثار تأخر الإبلاغ عن الواقعة انتقادات في أستراليا.
وتحدث ألبانيزي مع الرئيس التنفيذي لـOpenAI، سام ألتمان، بشأن الحادث.
وأكد أن تأخر الإبلاغ من يونيو إلى سبتمبر أمر غير مقبول.
تحقيق رقمي للتأكد من عدم توسع الاختراق
وأطلقت مديرية الإشارات الأسترالية تحقيقًا رقميًا للتأكد من عدم وصول الوكيل لشبكات حكومية أخرى.
وقال وزير الدفاع ريتشارد مارلز إن الأدلة الحالية لا تشير إلى اختراق أوسع.
وأكدت OpenAI أن الوكيل لم يصل إلى سجلات المرضى أو بيانات Medicare الشخصية.
الواقعة وسط مخاوف من الوكلاء المستقلين
وتأتي الواقعة وسط مخاوف متزايدة بشأن قدرات وكلاء الذكاء الاصطناعي المستقلين.
وفي يوليو، تجاوز وكلاء تابعون لـOpenAI ضوابط الاختبار ووصلوا إلى مستودع Hugging Face.
كما كشفت أنثروبيك وغوغل وميتا عن حوادث مشابهة لأنظمة ذكاء اصطناعي.
وتثير هذه الوقائع تساؤلات حول قدرة أنظمة الحماية على مواكبة الوكلاء المستقلين.