“هیچ‌کس در هواپیما نبود” این جمله‌ای بود که دونالد ترامپ، چهل و پنجمین رئیس‌جمهور ایالات متحده و نامزد حزب جمهوری‌خواه در انتخابات ریاست‌جمهوری ۲۰۲۴، با ناراحتی نوشت. «او از فناوری ‘هوش مصنوعی’ استفاده کرده و یک ‘جمعیت’ عظیم از به‌اصطلاح هواداران را به نمایش گذاشت، اما آنها وجود نداشتند!» در آگوست ۲۰۲۴ ترامپ رقیب خود از حزب دموکرات، معاون رئیس‌جمهور کامالا هریس، را به جعل عکس‌های جمعیت در گردهمایی‌هایش با استفاده از هوش مصنوعی مولد متهم کرد. برخلاف تکنیک‌های ویرایش عکس که در دهه‌های گذشته توسط فعالان سیاسی استفاده می‌شد، ابزارهای هوش مصنوعی مولد به تازه‌کاران اجازه می‌دهند که به‌سادگی و تنها با چند کلید فشاری، جعل‌های قانع‌کننده‌ای خلق کنند. کامالا هریس عکس‌ها را جعل نکرده بود؛ جمعیت واقعی بود. هزاران نفر آنها را دیدند و روزنامه‌نگاران عکس‌های خودشان را گرفتند. ادعای ویروسی مبنی بر اینکه عکس‌ها جعلی هستند زیرا بازتاب جمعیت روی هواپیمای هریس دیده نمی‌شود، توضیحی ساده داشت: هواپیما به‌طرف دیگر جمعیت زاویه داشت.
برای ماه‌ها، به عموم مردم هشدار داده شده بود که انتظار یک موج جعل به‌وسیله هوش مصنوعی مولد که قصد دارد انتخابات در سراسر جهان را مختل کند، را داشته باشند. با این حال، به‌طور طنزی، در این جا با موضوعی واقعی روبرو شدیم که به‌عنوان جعلی اعلام شده بود. برخی از ناظران به پتانسیل گسترش ترس‌های گسترده درباره محتویات ساختگی اشاره کرده بودند که باعث می‌شود شخصیت‌های عمومی متهم به رفتار بد، بتوانند به این بهانه که مدارک آنها توسط هوش مصنوعی تولید شده‌اند، شک و تردید ایجاد کنند. اما در مورد جمعیت در گردهمایی‌های هریس، ترامپ کاری به‌طور نامحسوس متفاوت انجام می‌داد. به جای فرار از پاسخگویی، او داشت شواهدی از محبوبیت رقیب خود انکار می‌کرد.
سایر حوادث پرآوازه‌ای نیز وجود داشت که در آنها واقعاً از هوش مصنوعی مولد برای فریب استفاده شده بود: صداهای ساختگی از یک نامزد شهرداری شیکاگو که خشونت پلیس را تایید می‌کرد، یک نامزد ریاست‌جمهوری اسلواکی که درباره تقلب انتخاباتی و تهدید به افزایش قیمت آبجو صحبت می‌کرد، و به‌طور معروف‌تر، رئیس‌جمهور بایدن که از رأی‌دهندگان نیوهمپشایر خواسته بود در انتخابات مقدماتی دموکرات‌ها در ایالت‌شان شرکت نکنند. تصاویر جعلی نیز پخش شدند: ترامپ در حال در آغوش گرفتن آنتونی فائوچی (که در میان راست‌گرایان به خاطر نقش‌اش در پاسخگویی به پاندمی بسیار متنازع شده بود)، ترامپ در حال عکس گرفتن با هواداران سیاه‌پوست، ترامپ در حال دستگیری، و یک ایالات متحده بی‌قانون تحت یک دولت دوم فرضی بایدن.
در سالی که بیش از نیمی از انسان‌ها در کشورهایی زندگی می‌کنند که در آنها انتخابات برگزار می‌شود، ده‌ها مثال دیگر ماه پس از ماه ظاهر شده‌اند. «دیپ‌فیک‌ها تهدید می‌کنند که انتخابات جهانی را برهم می‌زنند. هیچ‌کس نمی‌تواند جلوی آنها را بگیرد،» جمله‌ای بود از یک عنوان واشنگتن پست در آوریل. بازیگران تهدیدگر همچنین به آزمایش ادامه داده‌اند. در سپتامبر – تنها دو ماه قبل از روز انتخابات در ایالات متحده – وزارت دادگستری ایالات متحده اعلام کرد که عملیات نفوذ روسیه‌ای به نام «دابل‌گنجر» را مختل کرده است و سی‌ودو دامنه وب را که برای انتشار تبلیغات طرفدار روسیه و تقلید از سایت‌های خبری معتبر، از جمله واشنگتن پست استفاده می‌شد، به دست آورده است. برخی از این سایت‌ها از طریق تبلیغات رسانه‌های اجتماعی ایجاد شده توسط هوش مصنوعی مولد ترویج شدند. دابل‌گنجر تنها عملیاتی نبود که وزارت دادگستری در سپتامبر مختل کرد.
در حالی که این عملیات بیش‌ترین استفاده از هوش مصنوعی را نشان می‌داد، به‌احتمال زیاد عملیات‌های ناشناخته دیگری وجود دارند که توسط روسیه، یا دیگر دشمنان دولتی مانند ایران یا جمهوری خلق چین، اجرا شده‌اند یا خواهند شد و از هوش مصنوعی برای مقاصد بد استفاده کرده‌اند یا خواهند کرد. اما تعداد کمی از دیپ‌فیک‌ها با آن تأثیری که ناظران از آن بیم داشتند، ظاهر شده‌اند و بیشتر شبیه میم‌ها شدند تا شواهد قابل‌اعتبار. در ماه مه، رسانه‌های بزرگ شروع به مدیریت توقعات درباره دیپ‌فیک‌های هوش مصنوعی با عناوینی مانند «هوش مصنوعی قول داده بود که کمپین ۲۰۲۴ را برهم زند. اما هنوز این کار را نکرده است،» کردند. با نزدیک شدن انتخابات ۲۰۲۴ ایالات متحده، نگرانی‌ها درباره اطلاعات نادرست تولید شده توسط هوش مصنوعی کاهش یافته است.
گزارش ۹ آگوست مرکز تحلیل تهدید مایکروسافت اشاره کرد که در حالی که «تقریباً تمام بازیگران به دنبال ادغام محتوای AI در عملیات‌های خود هستند…بسیاری اخیراً دوباره به تکنیک‌هایی بازگشته‌اند که در گذشته مؤثر بوده‌اند – دستکاری‌های دیجیتال ساده، تحریف محتوا و استفاده از برچسب‌ها یا لوگوهای معتبر روی اطلاعات نادرست.» این بدان معنی نیست که خطر واقعی نیست. انتخابات جزئی، که در رسانه‌های ملی کمتر قابل مشاهده هستند، ممکن است کمتر از رقابت ریاست‌جمهوری مقاوم باشند.
همانند هر تحلیل اولیه‌ای از فناوری نوظهور، ارزیابی‌های مبتنی بر تحقیقات ما در حال تکامل است. نمونه‌های جدیدی از استفاده‌های هوش مصنوعی در سیاست و انتخابات همچنان ظهور می‌کنند. نظرات کارشناسان هنوز در حال شکل‌گیری است و ممکن است به‌طور قابل‌توجهی تغییر کند. یک توافق میان متخصصان در حال شکل‌گیری است که تأثیر اصلی هوش مصنوعی بر انتخابات در کوتاه‌مدت ایجاد مشکلات کاملاً جدید نخواهد بود، بلکه تهدیدات قبلی را عمومی‌تر و اجرا‌پذیرتر توسط طیف وسیع‌تری از بازیگران خواهد کرد که منجر به حجم بیشتری از اطلاعات نادرست، حملات سایبری و مسائل دیگر می‌شود. در بلندمدت، هوش مصنوعی به نظر می‌رسد که تمایل دارد بیشتر هراس و عدم یقین را در جوامعی تزریق کند (مانند ایالات متحده) که قبلاً از بی‌اعتمادی عمیق به دولت، به رسانه و بین شهروندان رنج می‌برند. خلاصه اینکه، ما در حال یادگیری هستیم که خطرات بالقوه‌ای که به دلیل هوش مصنوعی مولد بر انتخابات تحمیل می‌شود، شبیه به یک بیماری مزمن است و نه یک حمله قلبی.
