المزيج المتقلب من التزييف العميق والحملات السياسية سبب وجيه لتوخي الحذر. شون أنتوني إيدي كريتيف / E + عبر Getty Images
تخيل مفاجأة أكتوبر لا مثيل له: قبل أسبوع فقط من 5 نوفمبر 2024 ، كشف تسجيل فيديو عن لقاء سري بين جو بايدن وفولوديمير زيلينسكي. يوافق الرئيسان الأمريكي والأوكراني على مباشرة انضمام أوكرانيا إلى حلف الناتو بموجب "بروتوكول العضوية الطارئ الخاص" والاستعداد لضربة أسلحة نووية ضد روسيا. فجأة ، أصبح العالم على أعتاب هرمجدون.
بينما يمكن للصحفيين الإشارة إلى ذلك لا يوجد مثل هذا البروتوكول ومستخدمي وسائل التواصل الاجتماعي قد يلاحظون صفات فيديو غريبة تشبه ألعاب الفيديو ، وقد يشعر الآخرون بذلك أسوأ مخاوفهم تم تأكيده. عندما يأتي يوم الانتخابات ، قد يسمح هؤلاء المواطنون المهتمون للفيديو بالتأثير على أصواتهم ، غير مدركين أنه قد تم التلاعب بهم للتو من خلال موقف مزيف - وهو حدث لم يحدث أبدًا في الواقع.
الوضع العميق يمثل المرحلة التالية من التقنيات التي لديك بالفعل اهتزت تصورات الجماهير للواقع. في بحثنا في مشروع DeFakeزملائي في معهد روتشستر للتكنولوجياأطلقت حملة جامعة ميسيسيبي, جامعة ولاية ميشيغان و انا دراسة كيفية صنع التزييف العميق والتدابير التي يمكن للناخبين اتخاذها للدفاع عن أنفسهم منها.
تخيل الأحداث التي لم تحدث
يتم إنشاء التزييف العميق عندما يستخدم شخص ما أداة ذكاء اصطناعي على وجه الخصوص التعلم العميق، للتلاعب أو إنشاء ملف وجهأو المعلم صوت أو - مع صعود نماذج اللغات الكبيرة مثل شات جي بي تي - لغة المحادثة. يمكن دمجها لتشكيل "التزييف العميق للوضع".
الفكرة والتقنية الأساسية لموقف ما هي نفسها كما هو الحال مع أي مزيف عميق آخر ، ولكن بطموح أكثر جرأة: التلاعب بحدث حقيقي أو ابتكار حدث من فراغ. تشمل الأمثلة تصوير مسيرة دونالد ترامب و ترامب يعانق أنتوني فوسي، لم يحدث أي منهما. تم الترويج لتسديدة العناق بواسطة أ التغريد حساب المرتبطة بالحملة الرئاسية منافس ترامب رون ديسانتيس. ان إعلان الهجوم كان استهداف حملة جو بايدن 2024 التي نشرتها اللجنة الوطنية للحزب الجمهوري مصنوع بالكامل باستخدام الذكاء الاصطناعي.
في مشروع DeFake، لدينا وقد وجدت الأبحاث أن التزييف العميق ، بما في ذلك المواقف ، يتم إنشاؤه عادةً بواسطة مزيج من إضافة وسيط مع آخر؛ باستخدام الفيديو لتحريك صورة أو تعديل فيديو آخريطلق عليها اسم محرك الدمى ؛ استحضار قطعة من الوسائط إلى الوجود ، عادةً باستخدام الذكاء الاصطناعي التوليدي؛ أو مزيج من هذه التقنيات.
لكي نكون واضحين ، فإن العديد من عمليات التزييف العميق للمواقف مصنوعة لأغراض بريئة. على سبيل المثال، مجلة الأوديسة اللانهائية تنتج صورًا ثابتة مزيفة من الأفلام لم يتم إنتاجها أبدًا or لا يمكن أن تكون موجودة. ولكن حتى التزييف العميق البريء يعطي سببًا للتوقف ، كما في حالة الصور المزيفة شبه المعقولة التي تصور هبوط أبولو على القمر كإنتاج سينمائي.
التزييف العميق للانتخابات
الآن ضع نفسك في موقف شخص يحاول التأثير على الانتخابات القادمة. ما هي المواقف المحتملة التي قد ترغب في إنشائها؟
بالنسبة للمبتدئين ، سيكون من المهم ما إذا كنت تريد إمالة التصويت نحو نتيجة معينة أو بعيدًا عنها. ربما يمكنك تصوير مرشح يتصرف بشكل بطولي عن طريق سحب أحد المشاة من طريق سيارة مسرعة أو ، على العكس من ذلك ، القيام بشيء مسيء أو إجرامي. شكل الوضع deepfake سيكون مهمًا أيضًا. بدلاً من الفيديو ، يمكن أن تكون صورة فوتوغرافية ، ربما بها تمويه وزوايا تحاكي كاميرا هاتف ذكي أو شعار مزور لوكالة أنباء.
سيكون جمهورك المستهدف هو المفتاح. بدلاً من استهداف جمهور الناخبين أو قاعدة الحزب ، يمكنك استهداف أصحاب نظريات المؤامرة في مناطق التصويت الرئيسية. يمكنك تصوير المرشح أو أفراد أسرته كمشاركين في ملف طقوس شيطانية، والمشاركة في مهرجان في حصري ومثير للجدل مجتمع بوهيمي، أو لديك لقاء سري مع خارج كوكب الأرض.
إذا كان لديك الطموح والقدرات اللازمة لذلك ، يمكنك حتى محاولة التزييف العميق للانتخابات نفسها. في يونيو 2023 ، تم اختراق محطات التلفزيون والإذاعة الروسية و بث أمر تعبئة كامل قبل التزييف العميق للرئيس الروسي فلاديمير بوتين. في حين أن هذا سيكون أكثر صعوبة في الانتخابات الأمريكية ، فمن حيث المبدأ يمكن اختراق أي منفذ إخباري لبث مزيف عميق لمذيعيهم يعلنون عن نتائج خاطئة أو يتنازل مرشح.
الدفاع عن الواقع
هناك مجموعة متنوعة من الطرق التكنولوجية والنفسية لاكتشاف التزييف العميق للموقف والدفاع عنه.
على الصعيد التكنولوجي ، تحتوي جميع تقنيات التزييف العميق على بعض الأدلة على طبيعتها الحقيقية. يمكن لبعض هذه القصص أن تراها بالعين البشرية - مثل الجلد الناعم للغاية أو الإضاءة أو الهندسة المعمارية الغريبة - بينما قد يكون البعض الآخر يمكن اكتشافه فقط بواسطة منظمة العفو الدولية للصيد العميق.
نحن نبني ديفيكيستخدم جهاز الكاشف الخاص بالذكاء الاصطناعي لالتقاط الإشارات الدالة على التزييف العميق ، ونعمل على محاولة جعله جاهزًا في الوقت المناسب لانتخابات عام 2024. ولكن حتى إذا لم يتم نشر كاشف التزييف العميق مثل جهازنا بحلول يوم الانتخابات ، فهناك أدوات نفسية يمكنك أنت ، الناخب ، استخدامها لتحديد التزييف العميق: المعرفة الخلفية والفضول والتشكيك الصحي.
إذا صادفت محتوى وسائط عن شخص أو مكان أو حدث يبدو غير معهود ، فثق بمعرفتك الخلفية. على سبيل المثال ، في ملف خدعة أخيرة حول حريق في البنتاغون، يبدو المبنى الموضح مربعًا أكثر من الشكل الخماسي ، والذي يمكن أن يكون هدية.
ومع ذلك ، حاول ألا تعتمد كليًا على معلوماتك الأساسية ، والتي قد تكون خاطئة أو غير مكتملة. لا تخف أبدًا من معرفة المزيد من مصادر موثوقة ، مثل التقارير الإخبارية التي تم التحقق منها ، أو المقالات الأكاديمية التي راجعها الأقران أو المقابلات مع الخبراء المعتمدين.
بالإضافة إلى ذلك ، اعلم أنه يمكن استخدام تقنية deepfakes للاستفادة مما أنت عليه يميل إلى الاعتقاد عن شخص أو مكان أو حدث. واحدة من أفضل الطرق للتعامل مع هذا هو ببساطة كن على علم بتحيزاتك وكن حذرًا قليلاً بشأن أي محتوى وسائط يبدو أنه يؤكدها.
حتى إذا أصبح من الممكن إنشاء حالة مزيفة بشكل مثالي ، فمن المرجح أن تظل درجة تصديق موضوعها بمثابة كعب أخيل. لذلك ، مع أو بدون حل تقني ، لا تزال لديك القوة للدفاع عن الانتخابات من تأثير الأحداث الوهمية.
نبذة عن الكاتب
كريستوفر شوارتز، باحث ما بعد الدكتوراه في أمن الحوسبة ، معهد روتشستر للتكنولوجيا
يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.
كتب ذات صلة:
في الاستبداد: عشرون درسًا من القرن العشرين
بواسطة تيموثي سنايدر
يقدم هذا الكتاب دروسًا من التاريخ للحفاظ على الديمقراطية والدفاع عنها ، بما في ذلك أهمية المؤسسات ودور المواطنين الأفراد ومخاطر الاستبداد.
انقر لمزيد من المعلومات أو للطلب
حان وقتنا الآن: القوة والهدف والنضال من أجل أمريكا العادلة
بواسطة ستايسي أبرامز
تشارك الكاتبة ، وهي سياسية وناشطة ، رؤيتها لديمقراطية أكثر شمولاً وعدلاً وتقدم استراتيجيات عملية للمشاركة السياسية وتعبئة الناخبين.
انقر لمزيد من المعلومات أو للطلب
كيف تموت الديمقراطيات
بقلم ستيفن ليفيتسكي ودانييل زيبلات
يبحث هذا الكتاب في علامات التحذير وأسباب الانهيار الديمقراطي ، بالاعتماد على دراسات الحالة من جميع أنحاء العالم لتقديم رؤى حول كيفية حماية الديمقراطية.
انقر لمزيد من المعلومات أو للطلب
الشعب ، لا: تاريخ موجز لمناهضة الشعبوية
بواسطة توماس فرانك
يقدم المؤلف تاريخًا للحركات الشعبوية في الولايات المتحدة وينتقد الأيديولوجية "المناهضة للشعبوية" التي يقول إنها خنق الإصلاح الديمقراطي والتقدم.
انقر لمزيد من المعلومات أو للطلب
الديمقراطية في كتاب واحد أو أقل: كيف تعمل ، ولماذا لا ، ولماذا إصلاحها أسهل مما تعتقد
بواسطة ديفيد ليت
يقدم هذا الكتاب لمحة عامة عن الديمقراطية ، بما في ذلك نقاط قوتها وضعفها ، ويقترح إصلاحات لجعل النظام أكثر استجابة وخضوعا للمساءلة.
