مؤتمر أمان تكنولوجيا المعلومات RSA
تُعَّد عمليات التزييف العميق أحد المنتجات السيئة الناجمة عن التطورات الأخيرة في مجال الذكاء الاصطناعي. اكتسبت الوسائط المزيفة التي تم إنشاؤها بواسطة خوارزميات التعلم الآلي الكثير من الجذب في السنوات الأخيرة. تتحدث أليسا ميلر بمؤتمر أمان تكنولوجيا المعلوماتRSA 2020 تحت عنوان فقدان واقعيتنا، حيث تقدم لنا بعض الرؤى عن السبب الذي يجعل الوقت قد حان للتفكير في تهديد عمليات التزييف العميق — بغض النظر عن عام الانتخابات — وما يمكن لأعمالك التجارية فعله لتخفيف التأثير ما إذا هوجمت بهذه الطريقة.
كيف تتم عمليات التزييف العميق
النهج الأكثر انتشارًا لإجراء عملية تزييف عميق هو باستخدام نظام يسمى GAN، أو شبكة الخصومة التوليدية. تتكون شبكات الخصومة التوليدية من شبكتين عصبيتين عميقتين تنافس بعضها البعض. وللاستعداد، يتم تدريب الشبكتين على صور حقيقية. وحينها يبدأ الجزء الخصومي في وجود شبكة واحدة تولِيد صورًا (ومن هنا جاء اسم توليدي) وتحاول الأخرى تحديد ما إذا كانت الصورة حقيقية أم مزيفة (تسمى الشبكة الأخرى تمييزية).
عقب ذلك، تتعلم الشبكة التوليدية وتتعلم من النتيجة. وفي نفس الوقت، تتعلم الشبكة التمييزية طريقة تحسين أدائها. ومع كل دورة، تتحسن كلتا الشبكتين.
تقدم سريع، لنقل مليون دورة تدريبية: لقد تعلمت الشبكة العصبية التوليدية طريقة توليد صورًا مزيفة بحيث يتعذر على الشبكة العصبية المتقدمة المضاهية لها تمييزها عن الصور الحقيقية.
هذه الطريقة ناجحة بالفعل في العديد من التطبيقات، وتبعًا للبيانات التحضيرية، تتعلم الشبكة التوليدية طريقة توليد أنواع معينة من الصور.
وبالطبع بالنسبة لعمليات التزييف العميق، فإن الخوارزمية متدربة على صور حقيقية لأشخاص معينين، ما يؤدي بنا إلى شبكة يمكنها توليد عدد لا نهائي من الصور الملائمة (لكنها مزيفة) لشخص والجاهزة للدمج بمقطع الفيديو. يمكن أن تُنتج الطرق الشبيهة صوتًا مزيفًا، و على الأرجح أن المحتالين يستخدمون التزييف الصوتي العميق بالفعل.
كيف أصبحت عمليات التزييف العميق ملائمة
بدت مقاطع الفيديو الأولية المزيفة سخيفة، لكن التكنولوجيا تطورت بما يكفي عند هذه النقطة لمثل هذه الوسائط لتصبح ملائمة بشكلٍ مخيف. أحد أكثر الأمثلة الملحوظة لعمليات التزييف العميق المخيفة من عام 2018 كانت باراك أوباما المزيف والذي كان يتحدث عن عمليات التزييف العميق (بالإضافة إلى إهانة عابرة تستهدف الرئيس الأمريكي الحالي). وفي منتصف عام 2019، شاهدنا مقطع فيديو قصير لمارك زوكربيرغ المزيف يتحدث بكل صدق عن حالة الخصوصية الحالية.
ولفهم مدى تحسن التكنولوجيا، يمكنك ببساطة مشاهدة مقطع الفيديو أدناه. ابتكرها الانطباعي جيم مسكيمن بالتعاون مع فنان التزييف العميق Sham00k. كان الأول مسؤولاً عن الأصوات، وقام الأخير بتطبيق 20 وجهًا لبعض المشاهير بمقطع الفيديو مستعينًا ببرنامج التزييف العميق. وكانت النتيجة رائعة بالفعل.
وكما يقول Sham00k فيما يتعلق بوصف كواليس مقطع الفيديو الخاص به، “لقد استغرق إعداد الفيديو بالكامل ما يزيد عن 250 ساعة من العمل، و 1200 ساعة من التصوير، و 300000 صورة وما يقرب من 1 تيرابايت من البيانات”. وقد قال أن إعداد مثل هذا الفيديو لم يكن أمرًا هينًا. لكن يمكن لمثل هذا التضليل الملائم أن يحمل تأثيرات هائلة على الأسواق — أو على سبيل المثال، الانتخابات — وهو ما يجعل العملية تبدو هينة وزهيدة بصورة مخيفة.
ولهذا السبب، وتقريبًا في نفس وقت صدور مقطع الفيديو المذكور أعلاه، حظرت كاليفورنيا تسجيلات الفيديو السياسية عميقة التزييف خلال موسم الانتخابات. ومع ذلك، لم تنتهي المشكلات. بالنسبة للمبتدئين، فتعتبر مقاطع فيديو التزييف العميق عمومًا شكل من أشكال التعبير عن الرأي — مثل السخرية السياسية. لا يحمي حظر ولاية كاليفورنيا تمامًا حرية التعبير عن الرأي.
المشكلة الثانية هي تقنية وعملية: كيف يمكنك التمييز بين مقطع فيديو به تزييف عميق وآخر حقيقي؟
كيف تكتشف التزييف العميق
يُمثل التعليم الآلي كل الحنق بين العلماء في كافة أنحاء العالم، وتبدو مشكلة التزييف العميق مثيرة وداعية للتحدي بشكلٍ كافٍ لإغراء العديد منهم لمحاولة حلها. ولهذا السبب ركزت بضعة مشروعات بحثية على طريقة استخدام تحليل الصور للكشف عن عمليات التزييف العميق.
على سبيل المثال، تم نشر بحث في يونيو 2018 يصف طريقة مساعدة تحليل ومضات الأعين في الكشف عن مقاطع الفيديو ذات التزييف العميق. الفكرة هي أنه عادةً ما لا تتوفر صور كافية لشخص معين يومض، لذلك قد لا تتمتع الشبكات العصبية بصور كافية للتدرب عليها. في الواقع، كان الأشخاص ضمن عمليات التزييف العميقة يومضون بأعينهم بصورة نادرة يصعب تصديقها في نفس وقت صدور البحث، وبذلك وجد الأشخاص صعوبة في اكتشاف التفاوت، وهنا ساعدنا التحليل الحاسوبي.
وأوصى بحثين قد نُشِرا في نوفمبر 2018 بالبحث عن تشوهات الوجه و عدم اتساق الرؤوس. وكان هناك بحثًا آخر من عام 2019، وقد وصف تقنية معقدة تعمل على تحليل تعبيرات وحركات الأوجه وهي مطابقة لنمطالتحدث الفردي.
ومع ذلك، وكما أشار ميلر، من غير المرجح أن تنجح تلك الطرق على المدى الطويل. وما يقدمه لنا هذا البحث في الواقع هو ملاحظات على مبتكري التزييف العميق، ومساعدتهم في تحسين الشبكات العصبية التمييزية، مما يؤدي بدوره إلى تدريب أفضل للشبكات التوليدية وزيادة تحسين التزييف العميق.
استخدام اتصالات الشركات لتخفيف تهديدات التزييف العميق
ونظرًا للمشكلات المذكورة أعلاه، لن يصبح أي حل تقني بحت فعالاً أمام مشكلة التزييف العميق في هذه المرحلة. لكن أمامنا خيارات أخرى. وتحديدًا، يمكنك تخفيف التهديد بمساعدة الاتصالات الفعالة. ستحتاج إلى مراقبة المعلومات المتعلقة بشركتك والاستعداد للتحكم في السرد في حالة مواجهة تفشي المعلومات المضللة.
تلخص الاقتراحات التالية توصيات أليسا ميلر لتحضير شركتك لمواجهة تهديد التزييف العميق — وبالمناسبة، يمكن أن تكون نفس الطرق مفيدة للتعامل مع أنواع اخرى من حوادث العلاقات العامة أيضا:
• تقليل قنوات اتصالات الشركة؛
• دفع توزيع المعلومات المتسق؛
• تطوير خطة مواجهة المعلومات المضللة (والتي تتمثل في حوادث السلامة)؛
• تنظيم مراقبة مركزية ووظيفة إعداد التقارير؛
• تشجيع التشريع المسؤول والتحقق من صحة القطاع الخاص؛
• مراقبة تطور الإجراءات المضادة للكشف والوقاية.
النصائح