“我走遍了我们美丽的皇家岛屿，分享这个消息，告诉你这个平台将改变我们的生活，让我们的生活变得更好，”乍一看像是工党领袖凯尔·斯塔默(Keir Starmer)说。
他对着镜头讲话，为一项新的被动收入计划大唱赞歌，该计划可以让英国任何人每周获得高达7000英镑的收入，并保证该计划是与政府一起制定的，“这意味着我们没有理由害怕或怀疑”。
这很奇怪，因为那些推动这种快速致富计划的人通常是社交媒体上的影响者，或者是从中受益的人，而不是政治家，更不是反对派的领导人。
但有些地方不对劲。凯尔爵士的嘴虽然在动，但似乎是独立的，完全与他脸部的其他部分分开，仔细观察，它看起来一点也不像他的嘴。
这是因为它并非如此，而这段视频实际上是一种深度造假:一种人工智能(AI)驱动的设备，用于让人们看起来像是在说一些他们从未说过的话，或者在他们从未出现过的场景中，英国前高级公务员西蒙·麦克唐纳勋爵(Lord Simon McDonald)对此提出了警告。
这位前外交部门负责人发出警告之际，英国正在缓慢但不可避免地走向大选，大选很可能将于明年举行。
当被问及人工智能和深度造假是否会在这一过程中发挥作用时，麦克唐纳勋爵告诉《每日快报》:“是的，这意味着我们必须非常警惕。”麦克唐纳勋爵在2020年辞职之前为多届政府服务了38年。
这不是基尔爵士第一次成为深度造假的受害者，这位工党领袖是赢得下届大选的热门人选，他在10月份发现自己处于英国政治第一个深度造假时刻的中心。
在一段音频片段中，可以听到他对一名员工大喊大叫并咒骂，这是一个完全虚构的场景，除了创造者之外没有人参与其中。
人工智能和深度造假在麦克唐纳勋爵的新书《超越大不列颠:重塑英国外交政策》(Beyond Brittania:重塑英国外交政策)中出现，他希望在整个监管界重复的事情得到了来自不同政治领域的议员的回应，他们在得知凯尔爵士的深度造假后，迅速警告称这是假的。
但这并没有阻止它在网上像野火一样传播，最终在X上获得了160万的浏览量，这个时间框架和数字可能会让许多人相信它是真实的。
麦克唐纳勋爵说:“当一件赝品被发现时，它是赝品的事实需要非常、非常迅速地广为人知。”
“媒体在揭露假货方面可以发挥非常重要的作用，监管机构可以要求假货贴上标签，因此监管机构也有自己的作用。”
“无论这些假新闻出现在哪里，无论属于哪个政治派别，我认为所有媒体都应该把它们揪出来。”
英国现在有12个月或更少的时间来思考它在打击深度造假方面的作用，首相里希·苏纳克已经承认了这一点。
在他最近举办的人工智能峰会(包括埃隆?马斯克(Elon Musk)等科技界的明星与会者)召开之前，苏纳克就人工智能对民主的潜在影响向议员们发出警告。
他说:“生成式人工智能可能会导致公共信息生态系统的污染，因为超现实的机器人和合成媒体(‘深度造假’)会影响社会辩论，反映先前存在的社会偏见……生成式人工智能工具已经被证明能够在政治问题上说服人类，并可用于增加虚假信息和错误信息的规模、说服力和频率。”
英国政府科学办公室(Government Office for Science, GOS)的公务员编写的一份报告指出，人工智能将能够自动为个人提供个性化的虚假信息，以尽可能地针对他们的偏见和吸引力。
就目前而言，英国在深度造假方面的进展并不顺利，尽管这可能是因为该国自2019年以来没有进行过全国范围的投票，而深度造假技术自那以后得到了重大改进。
趋势科技(Trend Micro)高级威胁研究员戴维?桑乔(David Sancho)指出，人工智能的“巨大潜力”必须被用来制作极其可信的深度伪造，以“推进政治议程”。
他告诉《每日快报》:“我们不知道它们是否真的会被使用。通常，即使看到最终的假文章或假照片，也很难区分它们是否被人工智能用于制作。
“在这个阶段，这是不可能忽视的。很有可能有人会在这次选举或未来类似场合使用这些工具进行虚假宣传。”
看看欧洲，这些工具在如此关键的投票中可能已经被使用过了。
10月，在斯洛伐克的一场激烈的选举中，前总统、右翼人士罗伯特·菲科(Robert Fico)与左翼对手迈克尔·?ime?ka进行了激烈的角逐。
虽然菲科的胜利在很大程度上被认为是斯洛伐克公众所期望的保守经济和社会价值观回归的标志，但据说一件严重的事件在很大程度上使选票倾向于他。
就在人们前往投票箱的前两天，Facebook上发布了一段两个人声音的录音，据称?ime?ka先生和Denník N日报的Monika Tódová讨论了如何操纵选举，部分是通过向该国被边缘化的罗姆少数民族购买选票。
两人都谴责这段音频是假的，包括法新社事实核查部门在内的多家知名媒体表示，这段音频有被人工智能操纵的迹象。
但是，由于这段录音是在投票开始前48小时暂停期间发布的，媒体和政界人士本应保持沉默，因此很难揭穿这段录音，这表明科技和政治之间的距离越来越远。
而且，因为这是一段录音而不是视频，meta的操纵媒体政策中发现了一个漏洞，该政策规定只有伪造的视频才会违反其规定。
目前尚不清楚是谁录制了这段录音，也不清楚它在多大程度上真正影响了斯洛伐克的投票，但这一事件为英国等国学习奠定了基础。
当被问及他是否认为威斯敏斯特的任何政客可能会被引诱使用深度造假来对付对手时，麦克唐纳勋爵说:“我不会对任何个人发表评论，但我会敦促人们避开。”
“显然，这是一个不明朗的新发展。负面的可能性已经很明显了，我敦促政治家们不要插手。我们可以在没有深度造假的情况下进行必要的辩论。”
西蒙·麦克多的《超越大不列颠》这本书由豪斯出版社出版，可以在这里购买。
