كتب : دينا كمال
مايكروسوفت تحذر من مخاطر وكلاء الذكاء الاصطناعي
حذرت شركة مايكروسوفت من الاعتماد على نماذج الذكاء الاصطناعي المتقدمة لمراقبة نفسها، بسبب مخاطر أمنية محتملة.
وتعمل الشركة على تطوير أدوات رقابية جديدة لمتابعة الوكلاء الذكيين، واكتشاف سلوكهم غير المعتاد، والتدخل قبل وقوع الأضرار.
رقابة مستقلة على الذكاء الاصطناعي
أوضح مسؤولون في مايكروسوفت أن الوكلاء الذكيين قد يرتكبون أخطاء خطيرة عند امتلاكهم صلاحيات واسعة داخل أنظمة الشركات.
وأكدت الشركة أهمية فصل قدرات الذكاء الاصطناعي عن أنظمة الأمن المسؤولة عن مراقبته والتحكم فيه.
ويعني ذلك ضرورة وجود طبقة أمنية مستقلة، بدلاً من الاعتماد على النموذج نفسه لضمان التزامه بقواعد الأمان.
أدوات جديدة لمراقبة الوكلاء الذكيين
تعمل مايكروسوفت على توسيع أدواتها الأمنية ضمن مشروع Project Perception، عبر تطوير أنظمة Guardian Agents المعروفة باسم «الوكلاء الحراس».
وتهدف هذه الأدوات إلى مراقبة الوكلاء الذكيين عبر الشبكات المؤسسية والمنصات السحابية والأجهزة المحلية.
كما تساعد أدوات Microsoft Defender وEntra Agent ID على اكتشاف تطبيقات ذكاء اصطناعي، منها Claude Code وOpenAI Codex وGitHub Copilot.
وتتيح المنظومة تحديد صلاحيات الوصول وفق المهام المطلوبة، ثم تقليصها بعد انتهاء التنفيذ، للحد من مخاطر تسرب البيانات.
إيقاف الوكلاء عند الضرورة
تشمل الإجراءات الجديدة تقييد وصول الوكلاء إلى الأنظمة والبيانات، أو طلب موافقة بشرية، أو إيقافهم بالكامل عند اكتشاف سلوك غير طبيعي.
وتتعاون مايكروسوفت مع إنفيديا ضمن مبادرة Open Agent Safety Platform لتعزيز سلامة الوكلاء الذكيين وآليات التحكم فيهم.
وتعكس هذه الخطوات تحولاً في أمن الذكاء الاصطناعي، مع انتقال الوكلاء من تقديم الإجابات إلى تنفيذ المهام والوصول إلى الأنظمة الحساسة.
وبذلك، تصبح الرقابة المستقلة وتقييد الصلاحيات والتدخل البشري عناصر أساسية للحد من المخاطر الأمنية المرتبطة بتوسع استخدام الذكاء الاصطناعي.