كتب : دينا كمال
مخاوف أمنية توقف تطوير Astra.. نموذج OpenAI يقترب من قدرات خطيرة
أبطأت شركة OpenAI العمل على بعض جوانب نموذج الذكاء الاصطناعي المرتقب Astra.
وجاء القرار بعد تحقيق النموذج تقدمًا كبيرًا في البرمجة الوكيلة والأمن السيبراني.
وأثارت هذه القدرات مخاوف بشأن المستوى المحتمل لقدرات النموذج المتطورة.
وأوضحت الشركة أن Astra لا يزال قيد التطوير والاختبار في الوقت الحالي.
وأظهرت التقييمات الأولية وصول النموذج إلى «العتبة الحرجة للأمن السيبراني».
ويعني ذلك احتمال امتلاكه قدرات متقدمة لتحديد الهجمات الإلكترونية وتنفيذها بشكل مستقل.
وقد تستهدف هذه الهجمات أنظمة حقيقية تتمتع بمستويات مرتفعة من الحماية.
وبموجب إطار الاستعداد الخاص بالشركة، يتطلب هذا المستوى إجراءات أمنية إضافية.
كما يستدعي تشديد الضوابط المفروضة على تطوير النموذج واختباره.
وأكدت الشركة استمرارها في اختبار Astra وتقييم قدراته خلال مراحل التطوير.
وأشارت التقييمات الأولية إلى أداء قوي يصعب معه استبعاد القدرات الحرجة.
وشددت الشركة في الوقت نفسه على أن النموذج لم يشارك في اختراق أنظمة Hugging Face.
قدرات متقدمة تثير المخاوف
يمثل إعلان الشركة تطورًا لافتًا في مجال نماذج الذكاء الاصطناعي المتقدمة.
وعادةً ما تتجنب شركات التكنولوجيا الكشف عن قرارات مرتبطة بمنتجات لم تُطرح بعد.
لكن المخاوف الأمنية دفعت الشركة إلى الإعلان عن الإجراءات الجديدة بصورة علنية.
وتأتي هذه الخطوة وسط تدقيق متزايد بشأن قدرات نماذج الذكاء الاصطناعي خلال الاختبارات.
وشهدت الفترة الأخيرة حوادث أظهرت قدرة بعض النماذج على تجاوز بيئات الاختبار.
وأثارت تلك الوقائع مخاوف خبراء الأمن السيبراني والمشرعين ومختبرات الذكاء الاصطناعي.
ويرى بعض الخبراء أن هذه القدرات تتطلب رقابة أكثر صرامة على النماذج المتقدمة.
بينما يعتبر آخرون التطور مؤشرًا على تسارع قدرات الذكاء الاصطناعي التقنية.
OpenAI تشدد إجراءات الحماية
قررت OpenAI تعزيز إجراءات الأمان الخاصة بالنماذج الأكثر تقدمًا.
وتشمل الإجراءات الجديدة استخدام بيئات اختبار معزولة ومراقبة أكثر صرامة.
كما تتضمن تقييد الوصول إلى الشبكات والأدوات خلال عمليات الاختبار والتقييم.
وتعمل الشركة أيضًا على تعزيز حماية أوزان النماذج وتشفيرها.
وتشمل الخطة توسيع قدرات المراقبة ورصد المؤشرات المرتبطة بالسلوكيات الخطرة.
وأوقفت الشركة بعض الأنشطة الداخلية المرتبطة بـ Astra مؤقتًا.
وجاء ذلك بسبب عدم توافقها مع متطلبات الضوابط الأمنية الجديدة.
كما طبقت نظام مراقبة شامل للتطبيقات الوكيلة التي تستخدم النموذج.
ويهدف النظام إلى رصد الإجراءات الخطرة ومؤشرات عدم التوافق أثناء عمليات التدريب.
وتشمل المراقبة كذلك مراحل التقييم والاختبارات المختلفة للنموذج.
وتتعاون الشركة مع جهات حكومية ومؤسسات متخصصة في سلامة الذكاء الاصطناعي.
ويهدف التعاون إلى اختبار قدرات Astra وتقييم المخاطر المرتبطة باستخدامه.
كما تعمل الشركة على وضع ضوابط أمنية للشركاء الذين ينفذون اختبارات عالية المخاطر.
ولا يعني بلوغ «العتبة الحرجة» قدرة النموذج على تنفيذ جميع الهجمات السيبرانية.
لكنه يشير إلى ارتفاع مستوى قدراته المحتملة بما يستوجب ضوابط أمنية مشددة.
وتطبق هذه الضوابط حتى خلال مراحل تطوير النموذج واختباره.