كتب : دينا كمال
SAGA: أداة تكشف الفيديوهات المزيفة وتحدد مصدرها
مع الانتشار السريع للفيديوهات المولدة بالذكاء الاصطناعي، أصبح كشف المحتوى المزيف أكثر صعوبة.
وطور باحثون في جامعة كاليفورنيا – ريفرسايد أداة جديدة تكشف الفيديوهات المزيفة وتحدد مصدر إنتاجها.
وتحمل الأداة اسم SAGA، اختصارًا لعبارة “Source Attribution of Generative AI Videos”.
وقاد المشروع الباحث روهيت كوندو، بالتعاون مع أميت كيه. روي تشودري وفريق من الباحثين.
وشارك في تطوير الأداة باحثون من “يوتيوب” و”غوغل ديب مايند”.
كيف تعمل SAGA؟
تعتمد الأداة على تحليل أنماط بصرية دقيقة تتركها نماذج الذكاء الاصطناعي أثناء إنشاء الفيديوهات.
ويصف الباحثون هذه الأنماط بأنها “بصمة رقمية” تميز كل نموذج عن غيره.
وتشمل مقاطع الفيديو بيانات الحركة وتسلسل الإطارات، ما يمنح كل نموذج خصائص فريدة.
ولا تكتفي SAGA بتحليل الإطارات منفردة، بل تتابع تطور المشاهد خلال كامل المقطع.
وتستخدم تقنية “Temporal Attention Signatures” لبناء ملف تعريفي لكل نموذج.
ويعتمد ذلك على الأنماط المشتركة في عدد كبير من الفيديوهات المنتجة بواسطة النموذج نفسه.
اختبارات على 19 نموذجًا
اختبر الباحثون الأداة على 19 نموذجًا مختلفًا لتوليد الفيديو بالذكاء الاصطناعي.
وشملت الاختبارات أنظمة تحويل النص إلى فيديو، وأخرى تحول الصور إلى مقاطع مرئية.
وأظهرت النتائج قدرة SAGA على التحقق من كون الفيديو حقيقيًا أو مولدًا بالذكاء الاصطناعي.
كما تستطيع تحديد ما إذا كان الفيديو أُنشئ انطلاقًا من نص أو صورة.
وتتمكن الأداة من التعرف على النموذج المستخدم في إنتاج الفيديو بدقة.
ويمكنها أيضًا تحديد الجهة المسؤولة عن تطوير نموذج الذكاء الاصطناعي.
مواجهة حملات التضليل
ويرى الباحثون أن وصف الفيديو بأنه “مزيف” لم يعد كافيًا في الوقت الحالي.
وقد يساعد تحديد المصدر في تتبع حملات التضليل وتعزيز معايير الشفافية.
كما يمنح شركات التكنولوجيا أدوات أفضل لفهم انتشار المحتوى المزيف عبر الإنترنت.
وأكد فريق البحث أن المواجهة بين التزييف وتقنيات الكشف ستستمر خلال السنوات المقبلة.
وأضاف أن أدوات مثل SAGA ستصعّب إخفاء مصدر الفيديوهات المزيفة، رغم تطور تقنيات التوليد.