据《连线》杂志报道，一个名为“二重身”(Doppelganger)的俄罗斯附属虚假信息网络在X上传播了一段反拜登的视频，该视频是在生成式人工智能的帮助下制作的。
这段名为“拜登再见”的视频恶搞了美国总统拜登和共和党总统候选人唐纳德·特朗普。一位演员扮演了2024年的两位总统候选人，他们的特征是通过人工智能制作的。
拜登被描绘成一个坐轮椅、穿尿布、不会骑自行车的老人。该视频还显示，他是一名腐败的政客，并重复了有关2020年选举中盗窃特朗普选票的虚假指控。
根据俄罗斯研究人员Antibot4Navalny的分析，这段视频的用户达到650万，观看人数为500万。追踪该活动后，该组织发现，从5月21日开始，利用X上一个由2.5万个账户组成的网络，有4000条帖子在宣传这段视频。
该组织还发现了一种绕过社交媒体监控的新技术。虚假信息网络对视频进行了删减和编辑，以便他们能够推广“技术上在毫秒内不同”的视频，并且“很可能被滥用保护系统视为独特的视频”。
《连线》杂志称，另一家名为True Media的美国非营利组织致力于检测政治深度造假，该组织100%相信该视频是用人工智能生成的音频制作的，78%的人相信视频使用了人工智能面部处理。
必须阅读
《连线》杂志写道:“随着克里姆林宫加大力度破坏11月的美国大选，越来越明显的是，俄罗斯愿意利用新兴的人工智能技术。”该出版物还提到了其早些时候关于“CopyCop”运动的报道，该运动使用人工智能工具从真实的新闻网站收集信息和数据，然后通过假网站网络重新定位以促进右翼偏见。
这一系列报道进一步说明了生成式人工智能工具的强大之处，它可以更容易地创建具有潜在说服力、影响深远的深度虚假宣传或危险的假新闻。
今年4月，菲律宾政府不得不就一段下令发动军事攻击的深度伪造音频发出警告。今年早些时候，最终当选的印尼总统普拉博沃·苏比安托(Prabowo Subianto)的竞选团队利用人工智能工具为自己制作了一个可爱的动画版，专家称这是软化这位军事强人形象的关键一步。
美国将于2024年11月举行总统选举。- Rav Ayag/Rappler.com
Rav Ayag是Rappler的技术和功能实习生。他是马尼拉雅典耀大学(Ateneo de Manila University)美术创意写作学士课程的大四学生。
这篇报道经过了一位记者和一位编辑的审查。
