قبل بضع سنوات، كان الفيديو المزيف عادةً يفضح نفسه برمشة عين متيبسة، أو فك ممزق بصرياً، أو صوت يتأخر عن حركة الشفاه بجزء من الثانية. هذه العلامات اختفت إلى حد كبير اليوم. تطورت نماذج توليد الفيديو والصوت بسرعة جعلت الفجوة بين ما يمكن للعين المجردة رصده وما يمكن لأداة تحليل جنائي رصده بثقة، تتسع بدلاً من أن تضيق، ويقول الباحثون الذين يدرسون الوسائط الاصطناعية إن سباق التسلح هذا يميل حالياً لصالح صانعي المحتوى المزيف أكثر من الجهات التي تحاول رصده.

لماذا توقفت العلامات البصرية القديمة عن العمل

اعتمد الكشف المبكر عن الفيديوهات المزيفة بشكل كبير على آثار تتركها عملية التوليد نفسها، مثل أنماط رمش غير طبيعية، أو أذنين مشوهتين، أو إضاءة لا تتطابق تماماً مع باقي المشهد.

دُرِّبت شبكات الخصومة التوليدية والنماذج الحديثة القائمة على الانتشار، جزئياً، على إزالة هذه العيوب تحديداً، لأن الأبحاث المنشورة حول الكشف زوّدت مطوري النماذج فعلياً بقائمة تدقيق للعيوب الواجب إصلاحها.

حلقة التغذية الراجعة هذه، حيث تصبح كل طريقة كشف منشورة هدف تدريب فعلي للجيل التالي من أدوات التزييف، هي أحد الأسباب الرئيسية وراء أن العلامات البصرية التي كانت موثوقة عام 2019 أو 2020 أصبحت اليوم عديمة الفائدة إلى حد كبير.

عدم التماثل البنيوي في سباق التوليد والكشف

توليد نسخة مقنعة يتطلب حل مشكلة واحدة فقط: إنتاج مخرجات تبدو حقيقية لإنسان أو تخدع كاشفاً معيناً. أما الكشف فيتطلب حل مشكلة أوسع بكثير: رصد كل طريقة توليد حالية ومستقبلية، بما فيها طرق لم تُبتكر بعد.

وصف باحثون في مؤسسات منها مختبر الإعلام في معهد ماساتشوستس للتقنية (MIT Media Lab) هذا التنافس بأنه غير متكافئ بنيوياً، إذ إن كاشفاً مدرَّباً على تقنيات التوليد الحالية غالباً ما يتراجع أداؤه بشدة أمام مولّد يصدر بعد ستة أشهر فقط.

عدم التماثل هذا يعني أن دقة الكشف المذكورة في ورقة بحثية نادراً ما تنعكس بدقة في الأداء الواقعي، لأن النسخ المزيفة المتداولة فعلياً عند إصدار الكاشف تكون بالفعل متقدمة جيلاً كاملاً على بيانات تدريبه.

الضغط وإعادة الرفع يمحوان الإشارات الجنائية

كثير من البصمات الإحصائية الدقيقة التي تعتمد عليها خوارزميات الكشف، مثل أنماط الضوضاء غير المعتادة أو الشذوذات في المجال الترددي، هشة وتُمحى عند ضغط الفيديو أو تغيير حجمه أو إعادة رفعه على منصة تواصل اجتماعي.

كاشف يؤدي جيداً على مجموعة بيانات بحثية نظيفة وعالية الدقة قد يؤدي أداءً أسوأ بكثير على فيديو منخفض معدل البت ومعاد ترميزه، وهو تحديداً ما يُتداول فعلياً على واتساب أو المنصات الاجتماعية، حيث يشاهد الجمهور معظم الفيديوهات المزيفة.

هذه الفجوة بين ظروف المختبر والتوزيع الواقعي هي أحد أسباب أن أدوات الكشف على مستوى المنصات تؤدي أداءً أضعف بهدوء من الأرقام المنشورة في اختباراتها المرجعية بمجرد نشرها على نطاق واسع.

استنساخ الصوت تطور أسرع حتى من الفيديو

يتطلب استنساخ الصوت اليوم عينة قصيرة فقط، أحياناً بضع ثوانٍ من صوت نظيف، لإنتاج صوت اصطناعي يحمل نبرة عاطفية مقنعة وإيقاعاً طبيعياً.

لأن الصوت يحمل إشارات بصرية أقل يمكن تحليلها مقارنة بالفيديو، فإن الكشف الجنائي عن الأصوات المستنسخة يتأخر عموماً أكثر من كشف الفيديو، وقد شملت عدة قضايا احتيال موثقة أصواتاً مستنسخة لمسؤولين تنفيذيين استُخدمت في مكالمات احتيال مباشرة.

يميل خبراء الأمن اليوم إلى التعامل مع التحقق الصوتي عبر الهاتف كضمانة أضعف بكثير مما كانت عليه قبل بضع سنوات فقط، نظراً لانخفاض تكلفة إنتاج نسخة صوتية مقنعة.

الفيديوهات المزيفة اللحظية مشكلة أحدث وأصعب

انتقل استبدال الوجه المباشر أثناء مكالمات الفيديو من فضول بحثي إلى أمر قابل للتحقيق بأجهزة استهلاكية عادية، مما يخلق مشكلة كشف مختلفة جوهرياً عن تحليل ملف فيديو مسجل مسبقاً.

لا يوجد ملف نهائي يمكن إجراء تحليل جنائي عليه قبل حدوث التفاعل، ما يعني أن الكشف يجب أن يعمل فوراً، أثناء المكالمة نفسها، أو لا يعمل على الإطلاق، وهو قيد تقني أصعب بكثير.

شملت عدة حوادث احتيال شركاتي أوردتها وكالات منها رويترز مكالمات فيديو زُيِّفت فيها ملامح مسؤول تنفيذي بشكل مقنع في الوقت الفعلي لتفويض تحويلات مالية احتيالية، وهو ما يوضح كيف تحول هذا التهديد تحديداً من نظري إلى موثق.

لماذا يمكن أن تكون أرقام دقة الكاشف مضللة

أداة كشف تعلن دقة 95 بالمئة على مجموعة بيانات مرجعية تبدو مطمئنة، لكن هذا الرقم عادةً يعكس الأداء أمام طرق التوليد المحددة المدرجة في تلك المجموعة، وليس أمام تقنيات جديدة أو مختلطة.

أظهرت تقييمات مستقلة مراراً أن الكواشف المدرَّبة على عائلة واحدة من النماذج التوليدية يتراجع أداؤها بشكل كبير عند اختبارها أمام مخرجات نموذج ذي بنية مختلفة لم تُدرَّب على التعرف عليه.

لهذا يتعامل خبراء الأمن عموماً مع أي دقة منشورة لكاشف واحد كحد أقصى تحقق في ظروف مواتية، لا كتقدير موثوق للأداء الواقعي أمام أدوات توليد جديدة أو غير معروفة.

التحقق من المصدر والعلامات المائية كاستراتيجية بديلة

بدلاً من محاولة كشف النسخ المزيفة بعد وقوعها، يركز نهج يزداد رواجاً على إثبات الأصالة عند لحظة التسجيل، عبر تضمين توقيعات تشفيرية أو بيانات وصفية في اللقطات الحقيقية أثناء تسجيلها.

تهدف جهود معيارية مثل تحالف مصداقية ومصدر المحتوى (C2PA)، المدعوم من شركات منها أدوبي ومصنّعي كاميرات، إلى بناء سلسلة توثيق يمكن التحقق منها للوسائط الحقيقية بدلاً من ملاحقة كل تقنية تزييف جديدة.

هذا النهج ينقل العبء من 'أثبت أن هذا مزيف' إلى 'أثبت أن هذا حقيقي'، وهو ما يرى بعض الباحثين أنه استراتيجية أكثر استدامة على المدى الطويل من الكشف البحت بعد وقوع الحدث.

العلامات المائية على المحتوى الاصطناعي لها حدودها الخاصة

تُضمِّن بعض شركات الذكاء الاصطناعي الآن علامات مائية غير مرئية في الفيديو والصور التي تولّدها أدواتها، بهدف تمكين أنظمة الكشف اللاحقة من رصد المحتوى المولَّد بالذكاء الاصطناعي تلقائياً.

هذه العلامات المائية يمكن غالباً إضعافها أو إزالتها عبر خطوات تحرير شائعة مثل القص أو إعادة الترميز أو تمرير الملف عبر أداة توليد مختلفة، ما يحد من مدى نجاتها عبر التوزيع الواقعي.

بما أن العلامات المائية تعمل فقط مع المحتوى المولَّد بأدوات متعاونة، فهي لا تفيد في رصد النسخ المزيفة المنتجة بنماذج مفتوحة المصدر أو من قبل جهات تتعمد تجنب الأنظمة التي تضع علامات مائية أصلاً.

النماذج مفتوحة المصدر أزالت عائق الوصول

قبل بضع سنوات، كان إنتاج فيديو مزيف مقنع يتطلب مهارة تقنية متخصصة وموارد حوسبة كبيرة، ما كان يحد طبيعياً من عدد الأشخاص القادرين فعلياً على إنتاج واحد.

النماذج التوليدية مفتوحة المصدر التي يمكنها الآن العمل على بطاقات رسومات استهلاكية أزالت هذا الحاجز، ما يعني أن مجموعة الأشخاص القادرين على إنتاج وسائط اصطناعية مقنعة نمت أسرع بكثير من مجموعة القادرين على كشفها بثقة.

هذا الانتشار الواسع يُعد على الأرجح محركاً أكبر لفجوة الكشف من أي تقدم تقني منفرد، لأنه يضاعف حجم وتنوع النسخ المزيفة التي يجب على أي نظام كشف مواكبتها.

كيف تتعامل المنصات حالياً مع المشكلة

تجمع المنصات الكبرى عموماً بين أدوات كشف آلية ومراجعة بشرية ووسم قائم على السياسات بدلاً من الاعتماد على طريقة كشف واحدة لرصد كل شيء.

يُعامَل وسم المحتوى المولَّد بالذكاء الاصطناعي، عندما تستطيع المنصة تحديده، كمكمّل للكشف لا كبديل عنه، لأن الوسم الخاطئ أو الفشل في الوسم يقوّض ثقة المستخدم في نظام الوسم نفسه.

وجد باحثون مستقلون يراقبون زمن استجابة المنصات عموماً فجوة زمنية بين انتشار مقطع وسائط اصطناعية بشكل واسع وأي وسم أو إزالة دقيقين، لأن الكشف والتحقق يستغرقان وقتاً لا ينتظره الانتشار.

دور السياق والتحقق التبادلي بدلاً من الطب الشرعي البحت

يعتمد الصحفيون والمؤسسات المعنية بتقصي الحقائق بشكل متزايد بشكل أقل على التحليل الجنائي إطاراً بإطار، وأكثر على التحقق السياقي: التأكد من تغطية الحدث بشكل مستقل، ومقارنة البيانات الوصفية، والتحقق من المصدر الأصلي للمقطع.

يعكس هذا التحول إدراكاً عملياً بأن الكشف الجنائي وحده لم يعد موثوقاً بما يكفي ليكون الأساس الوحيد لقرار التحقق، خصوصاً تحت ضغط الوقت.

بنت مؤسسات مثل رويترز وBBC Verify فرقاً مخصصة تجمع بين أدوات تقنية محدودة وأساليب تقليدية في التوثيق والتحقق التبادلي، متعاملة مع برمجيات الكشف كمدخل واحد ضمن عدة مدخلات لا كحكم نهائي.

لماذا يتجاوز هذا الأمر فيديوهات الخداع المنتشرة

لا يقتصر الخطر العملي على فيديوهات استبدال وجوه المشاهير المتداولة للتسلية؛ تشمل الحالات الموثقة مكالمات احتيال بأصوات مستنسخة تستهدف عائلات، وفيديو مُلفَّق يُستخدم في حملات تضليل، وطلبات تفويض احتيالية داخل الشركات.

بدأت مؤسسات مالية بتحديث إجراءات التحقق من الاحتيال تحديداً لأن الصوت والفيديو لم يعودا يُعتبران دليل هوية موثوقاً بذاته، وهو تحول كان سيبدو مبالغاً فيه قبل بضع سنوات فقط.

أشار باحثون في أمن الانتخابات بشكل منفصل إلى الوسائط الاصطناعية كقلق متزايد للتضليل السياسي، خصوصاً في الفترة التي تسبق التصويت مباشرة حين لا يتوفر وقت كافٍ لدحض نسخة مزيفة بشكل قاطع قبل انتشارها.

ما الذي يقول الباحثون إنه ما زال يساعد فعلياً

الكشف متعدد الوسائط، أي فحص الفيديو والصوت والبيانات الوصفية معاً بدلاً من الاعتماد على إشارة واحدة، يؤدي عموماً أداءً أكثر ثباتاً من أي كاشف أحادي الإشارة، لأن خداع كل قناة في آن واحد أصعب على أي تزييف.

أنظمة الكشف التي يُعاد تدريبها بشكل متكرر على أمثلة حديثة من الوسائط الاصطناعية تميل إلى الصمود بشكل أفضل من النماذج الثابتة التي تُدرَّب مرة واحدة وتُنشر دون تحديث، رغم أن هذا يتطلب استثماراً مستمراً تقصّر معظم المؤسسات في تمويله.

جهود محو الأمية الإعلامية التي تُعلِّم الناس التحقق عبر التقاطع بدل الحدس البصري يراها الباحثون بشكل متزايد دفاعاً أكثر ديمومة من أي أداة كشف تقنية بحتة، لأن الحكم البصري البشري أصبح غير موثوق بشكل واضح أمام أفضل النسخ المزيفة.

إلى أين تتجه التقنية على الأرجح

تكتسب المعايير القائمة على المصدر زخماً مؤسسياً أسرع من أبحاث الكشف البحت، ما يشير إلى أن الحل العملي خلال السنوات القادمة سيكون على الأرجح بنية تحتية 'لإثبات الحقيقة' أكثر من كاشف شامل يمثل اختراقاً حاسماً.

يتوقع بعض الباحثين أن يبقى الكشف متأخراً خطوة دائمة عن التوليد، متعاملين مع الهدف ليس كـ'حل' الكشف نهائياً، بل كتضييق نافذة الضعف عبر تكرار أسرع وأدوات مصدر أفضل.

بدأت جهود تنظيمية في عدة دول تفرض الإفصاح عن المحتوى المولَّد بالذكاء الاصطناعي في سياقات محددة مثل الإعلانات السياسية، ما ينقل جزءاً من العبء من الكشف التقني إلى المساءلة القانونية.

كيف يختبر الباحثون أدوات الكشف فعلياً

تستبعد التقييمات الصارمة عادةً عائلات كاملة من تقنيات التوليد من بيانات تدريب الكاشف تحديداً لقياس مدى تعميمه على طرق لم يرها من قبل، بدلاً من الاكتفاء بتقنيات مشابهة لمجموعة تدريبه.

الكواشف التي تحقق نتائج جيدة في هذا النوع من الاختبار العابر للمولدات تُعتبر أكثر جدارة بالثقة بشكل ملموس من تلك التي تُختبر فقط أمام طرق التوليد نفسها المستخدمة في تدريبها، لأن الأخيرة لا تخبرنا شيئاً عن الصمود الواقعي.

أصبح التقييم الأكاديمي المستقل، المنفصل عن أرقام الدقة التي تعلنها الشركات المصنّعة، فحصاً متزايد الأهمية على الادعاءات المبالغ فيها لمنتجات كشف تجارية تُسوَّق لغرف الأخبار والمنصات والمؤسسات المالية.

الاستجابات القانونية والتنظيمية ما زالت متأخرة

أدخلت عدة دول أو اقترحت قوانين تُلزم بالإفصاح عن المحتوى المولَّد بالذكاء الاصطناعي في سياقات محددة عالية الحساسية، أبرزها الإعلانات السياسية والصور الحميمة غير الرضائية، بدلاً من محاولة تنظيم توليد الوسائط الاصطناعية بشكل عام.

يبقى التطبيق صعباً فعلياً لأن نفس التوزيع العابر للحدود ومنخفض التكلفة الذي يصعّب كشف الفيديوهات المزيفة يصعّب أيضاً تحديد ومقاضاة من أنتج فعلياً قطعة معينة من محتوى اصطناعي.

يصف خبراء القانون التنظيم الحالي عموماً بأنه مجموعة متناثرة من القواعد الضيقة والمحددة بالسياق بدلاً من إطار شامل، ما يعكس سرعة تحرك التقنية الأساسية مقارنة بوتيرة التشريع.

الاقتصاد الذي يُبقي سباق التسلح مستمراً

إنتاج فيديو مزيف مقنع واحد أصبح يكلف اليوم جزءاً صغيراً مما كان يكلفه قبل ثلاث سنوات فقط، بينما يتطلب بناء وصيانة نظام كشف دقيق ومحدَّث تمويلاً مستداماً وبيانات تدريب حديثة وباحثين متخصصين.

عدم التماثل في التكلفة هذا يعني أن منصة أو جهة حكومية جيدة التمويل يمكنها من حيث المبدأ مواكبة الكشف لفترة، لكن الصحفيين الأفراد وغرف الأخبار الصغيرة والأشخاص العاديين لا يستطيعون عموماً الوصول إلى نفس الأدوات.

يرى بعض الباحثين أن هذه الفجوة الاقتصادية، لا الخوارزميات الأساسية وحدها، هي ما يحدد في النهاية من يستطيع التمييز بثقة بين الحقيقي والمزيف، ما يثير مخاوف إنصاف حول من يبقى الأكثر عرضة للوسائط الاصطناعية المقنعة.

الخلاصة الصادقة للأشخاص العاديين

افتراض أن أي مقطع فيديو أو صوت موثوق تلقائياً لأنه يبدو ويسمع حقيقياً لم يعد افتراضاً آمناً، خصوصاً في أي شيء يتضمن طلباً مالياً أو ادعاءً عاجلاً ومشحوناً عاطفياً.

التحقق عبر قناة مستقلة، كالاتصال برقم معروف مسبقاً بدلاً من الوثوق بالرقم المتصل، أو التأكد مما إذا كان الحدث المزعوم مؤكداً من مصادر أخرى، يبقى أكثر موثوقية من محاولة رصد نسخة مزيفة بصرياً.

ستستمر التقنية في التحسن في الاتجاهين، التوليد والكشف، لكن النصيحة العملية من الباحثين حالياً هي نقل الثقة بعيداً عن الحكم الحسي الخام نحو عادات التحقق والأدلة التبادلية.

كيف يتحقق الصحفيون ومدققو الحقائق من الفيديو المشبوه

تحتفظ غرف الأخبار بشكل متزايد بمكاتب تحقق مخصصة تقارن اللقطات المشبوهة بمواقع تصوير معروفة وسجلات طقس وزوايا ظلال، عملية تحقيق يدوية تبقى أكثر موثوقية من أي كاشف آلي واحد للتحقق عالي المخاطر.

هذا النهج الذي يضع الإنسان في حلقة التحقق أبطأ من الكشف الآلي لكنه يلتقط تلاعبات تفوتها الأدوات الخوارزمية البحتة، خصوصاً التزييف القائم على السياق حيث لا يُعدَّل الفيديو نفسه لكنه يُقدَّم بادعاءات كاذبة حول وقت أو مكان تسجيله.

لماذا تبقى الشفافية حول التسمية أداة مهمة

يدفع بعض الباحثين نحو معايير تسمية إلزامية للمحتوى المُولَّد بالذكاء الاصطناعي، حجة أساسها أن الوسم الاستباقي أسهل تقنياً وأكثر موثوقية من محاولة الكشف اللاحق عن تزييف متطور باستمرار.

ما الذي يمكن أن يفعله المستخدم العادي للحماية من الخداع

ينصح خبراء محو الأمية الإعلامية بالتحقق من مصدر أي فيديو مثير للجدل قبل مشاركته، والبحث عمّا إذا كانت منافذ إخبارية موثوقة متعددة تغطي نفس الحدث، بدلاً من الاعتماد فقط على الحكم البصري الشخصي على مدى واقعية المقطع.

لماذا يبقى هذا سباقاً بلا خط نهاية واضح

بما أن أدوات التوليد والكشف تتطور معاً باستمرار، يتوقع معظم الباحثين أن يبقى هذا سباق تسلح مستمراً بلا نقطة نهاية حاسمة واحدة، مما يجعل التفكير النقدي وعادات التحقق المستمرة أدوات أكثر ديمومة من أي حل تقني واحد.

كيف تتعامل المنصات الكبرى مع هذا التحدي حالياً

بدأت منصات التواصل الاجتماعي الكبرى بنشر أدوات كشف داخلية ووسم تلقائي للمحتوى المُولَّد، رغم أن فعالية هذه الأدوات لا تزال محدودة نسبياً مقارنة بحجم المحتوى المُرفَع يومياً، مما يترك مساحة حقيقية للتزييف غير المُكتشَف.

المصادر

  1. مختبر الإعلام في معهد ماساتشوستس للتقنية (MIT Media Lab) — مجموعة بحثية أكاديمية تدرس كشف الوسائط الاصطناعية وسباق التسلح بين التوليد والكشف.
  2. رويترز — وكالة أنباء توثق حوادث احتيال موثقة بالفيديو المزيف وممارسات التحقق.
  3. تحالف مصداقية ومصدر المحتوى (C2PA) — هيئة معايير صناعية تطور بنية تحتية للمصدر والأصالة للوسائط الرقمية.
  4. BBC Verify — وحدة صحفية متخصصة في التحقق من محتوى الفيديو والصور باستخدام أساليب التحقق التبادلي.

الأسئلة الشائعة

هل يمكن رصد الفيديو المزيف بمجرد المشاهدة بتمعن؟

بشكل متزايد، لا. العيوب البصرية والصوتية التي كانت تفضح النسخ المزيفة سابقاً، مثل الرمش الغريب أو تأخر تزامن الشفاه، أُزيلت إلى حد كبير من نماذج التوليد الحديثة، ما يجعل الكشف بالعين المجردة غير موثوق للنسخ عالية الجودة.

لماذا تفشل أدوات الكشف التي تحقق نتائج جيدة في الأبحاث عند التطبيق العملي؟

تُقاس الدقة المرجعية عادةً أمام تقنيات توليد محددة مدرجة في مجموعة بيانات بحثية. النسخ المزيفة الواقعية غالباً تُنتج بطرق أحدث أو مختلفة، والفيديو عادة يُضغط ويُعاد رفعه، وكلاهما يضعف أداء الكاشف.

هل النسخ الصوتية المزيفة أسهل أم أصعب في الكشف من الفيديو؟

أصعب عموماً. استنساخ الصوت يتطلب بيانات أقل لإنتاج نتيجة مقنعة، ويوفر إشارات قابلة للتحليل أقل من الفيديو، وأظهرت عدة قضايا احتيال موثقة أن أصواتاً مستنسخة نجحت في خداع أشخاص في الوقت الفعلي.

ما هو التحقق القائم على المصدر وكيف يختلف عن الكشف؟

بدلاً من تحليل المحتوى بعد وقوعه لرصد علامات التزييف، تُضمِّن نُهج المصدر إشارات أصالة يمكن التحقق منها في اللقطات الحقيقية عند لحظة تسجيلها، ما ينقل العبء إلى إثبات أن الشيء حقيقي بدل إثبات أنه مزيف.

ما الذي يساعد فعلياً شخصاً على تجنب الانخداع بفيديو مزيف؟

التحقق عبر قناة مستقلة، مثل الاتصال برقم معروف مسبقاً، والتأكد مما إذا كان الحدث المزعوم مؤكداً من مصادر موثوقة أخرى، يُعتبر حالياً أكثر موثوقية من محاولة رصد نسخة مزيفة بصرياً أو صوتياً.

عن الكاتب

نستند إلى أبحاث مختبر الإعلام في معهد ماساتشوستس للتقنية، وتقارير رويترز، وعمل معايير تحالف مصداقية ومصدر المحتوى، ومنهجية التحقق لدى BBC Verify لشرح خلفية هذا الموضوع وفهمه الحالي.

أعجبك المقال؟

شارك عبر واتساب → شارك عبر واتساب

احصل على المزيد من المقالات في بريدك — اشترك في نشرتنا البريدية لتصلك أسبوعياً قصص مدهشة من مصر والسعودية ودبي وحول العالم.