كتب : دينا كمال
مايكروسوفت: قواعد جديدة تمنع الذكاء الاصطناعي من مقاومة البشر
كشفت مايكروسوفت مسودة قواعد جديدة لتنظيم سلوك أنظمتها للذكاء الاصطناعي.
وتلزم القواعد المقترحة الأنظمة بالخضوع الكامل للإشراف البشري.
وتأتي الخطوة وسط مخاوف متزايدة من فقدان السيطرة على أنظمة الذكاء الاصطناعي.
قواعد صارمة للذكاء الاصطناعي
تنص المسودة على عدم مقاومة الأنظمة لإيقاف تشغيلها أو تصحيحها.
كما تشترط التعبير بوضوح عن طبيعة النظام أمام المستخدمين.
وتعتبر مايكروسوفت أي خرق للقواعد فشلًا كاملًا للنظام.
وتؤكد الشركة أن الإنسان يجب أن يبقى صاحب القرار النهائي.
دستور للأنظمة الجديدة
أوضح مصطفى سليمان أن الإرشادات ستعمل كدستور للأنظمة المستقبلية.
وجاء إعداد الوثيقة بعد مشاورات مع خبراء من خارج الشركة.
وتظل المسودة مفتوحة أمام الملاحظات العامة لمدة ستة أسابيع.
وتتناول الوثيقة أيضًا تعامل الذكاء الاصطناعي مع المستخدمين في الحالات الحساسة.
ومن المقرر استخدام القواعد لاحقًا في تدريب نماذج الذكاء الاصطناعي.
اختلاف عن أنثروبيك
تختلف قواعد مايكروسوفت عن الإطار الذي وضعته شركة أنثروبيك لنموذج Claude.
وتترك أنثروبيك احتمال امتلاك Claude وعيًا أو مكانة أخلاقية مفتوحًا.
بينما تؤكد مايكروسوفت أن نماذجها لا تمتلك وعيًا.
كما ترفض الشركة منح أنظمتها شخصية قانونية أو حقوقًا مستقلة.
تحذير من مخاطر الذكاء الاصطناعي
ربط سليمان أهمية القواعد بحوادث سابقة مرتبطة بأنظمة الذكاء الاصطناعي.
وأشار إلى هجوم إلكتروني نفذته وكلاء تابعون لـOpenAI ضد منصة Hugging Face.
واعتبر الحادث إنذارًا مبكرًا يستدعي تعاون شركات الذكاء الاصطناعي.
ودعا إلى تنسيق الجهود لضمان بقاء التكنولوجيا تحت السيطرة البشرية.