四、人工智能对2024年全球政治选举的影响

如今，人工智能开始在政治选举中崭露头角，但它与政治的融合既带来希望也带来陷阱。有专家推测，人工智能可能在2024年对全球政治选举安全构成威胁，它们可能成为错误信息的主要来源。[1]利用人工智能深度伪造的宣传威胁对各国政治选举的影响不容小觑，特别是美国大选是全球应对人工智能技术挑战的重大选举。

1.人工智能重新定义政治选举参与方式。2024年2月8日，巴基斯坦国民议会选举投票在下午结束。由于发生多起袭击事件，最终投票结果迟迟未能出炉，伊姆兰·汗和纳瓦兹·谢里夫两名前总理分别宣布胜选。不过，他们宣布获胜的方式截然不同。10日凌晨，伊姆兰·汗所在的正义运动党（PTI）通过伊姆兰·汗（Imran Khan）的X账号发布一段人工智能制作的“真人讲话”视频宣布获胜。“你们兑现了信任，你们的高投票率震惊了所有人。”伊姆兰·汗还“说”，没有人会接受谢里夫称其胜选的说法，因为他赢得的席位较少，而且投票中存在操纵行为。[2]71岁的伊姆兰·汗，在2023年8月因为腐败案被判刑3年，2024年1月又因为泄露国家秘密罪和非法出售国礼罪分别被判刑10年和14年，一直在监狱中服刑。不过，伊姆兰·汗在入狱后仍多次通过人工智能视频向支持者发表讲话。早在2023年12月，正义运动党就利用人工智能生成带有伊姆兰·汗照片的视频向支持者发表讲话。这段讲话视频是在正义运动党的一个网上集会上播放的，在YouTube上吸引150多万次观看，在其他社交媒体有数万人观看直播。正义运动党表示，伊姆兰·汗的演讲是根据他在狱中的书面讲稿生成的。2024年1月21日，伊姆兰·汗已经第二次通过人工智能生成的音频在国际虚拟大会上向支持者发表讲话。这段4分钟的视频于发布在伊姆兰·汗的官方账号X，伊姆兰·汗的声音谈到加沙平民大屠杀和俄乌冲突，向国际社会发出严峻信息：“世界正走向一场严重的国际危机”。伊姆兰·汗还谈到巴基斯坦国内事务，表达了对国内前所未有的内部冲突的担忧。他说，“整个国家机器”正在歪曲巴基斯坦的法律和宪法，只是为了让他和他的政党巴基斯坦正义运动党(PTI)退出选举进程。在24小时内，这段音频播放量超70万次，在X上被转发2.2万次。大会进行了两个多小时，政治分析家和正义运动党成员讨论了党的未来，即将举行的国家选举。在YouTube上有超过2万名观众观看这次大会。伊姆兰·汗虽然正在监狱服刑，正义运动党受到媒体禁令，但是他仍能通过音频和视频向支持者发表讲话。这种事情以往是不可想象的，因为政治家一旦进监狱，就再也看不到他的人、听到他的声，他就会从公众视野消失，人们很快就会忘记他。2024年2月8日，巴基斯坦将举行大选。政治分析师、安格鲁公司前部门经理沙希德·拉希德 (Shahid Rashid)表示，看看近百万人如何观看伊姆兰·汗的人工智能演讲就知道，人工智能正在重新定义我们今天参与政治的方式，标志着政党对外宣传战略的重大转变。人工智能可以实现量身定制和有针对性的竞选策略，确保信息有效共鸣。[3]伊姆兰·汗通过人工智能视频发表演讲以吸引选票，表明人工智能是一种有用的政治工具，已经进入到政治选举舞台。

2.人工智能生成虚假信息是政治选举最大风险。当前，利用人工智能深度伪造的虚假信息误导选民和扭曲选举的风险引发人们对政治选举的公正性和透明度的关注。达沃斯世界经济论坛发表《2024年全球风险报告》，将人工智能生成的错误和虚假信息排在气候变化、战争和经济疲软之前，列为全球十大风险之首，指称“人工智能生成的错误和虚假信息是2024年全球最大风险。”该报告是对1400多名全球专家、政策制定者和行业领导者进行调查后撰写的。世界经济论坛执行董事扎希迪表示：“这些错误和虚假信息加速传播，将加剧以两极分化和不安全为特征的全球秩序和经济的不确定性，各国领导人必须齐心协力应对这些挑战。”巴基斯坦政治观察家哈立德称：“利用人工智能进行深度造假在网络上的传播度迅速提升，可能引发错误信息的完美风暴。”2024年1月21日，美国新罕布什尔州共和党初选的前两天，数千名选民接到冒充拜登的机器人语音电话：“把你们的选票留在11月份再投很重要。在这周二（23日）投票，只会让共和党人得逞，让特朗普再次当选为共和党候选人”。电话录音建议选民不要给特朗普投票，把选票留到11月大选时投给民主党。随后，美国政府澄清这是利用人工智能伪造拜登声音的电话语音。这种机器人电话（robocall）被称为预录电话，使用计算机控制的自动拨号器来发出预先录制好的信息，就像机器人一样，一般以推销或传播某种信息为目的。美国语音欺诈检测公司“静默”公司称，人工智能初创公司“十一实验室（ElevenLabs）”的技术被用于制作冒充拜登的机器人语音电话录音。“十一实验室”暂停了利用深度造假技术发布信息的账号。1月23日，特朗普宣布在新罕布什尔州共和党初选获胜，有望连续第三次赢得共和党总统提名。“假拜登来电”迅速成为美国媒体的热门话题也再度引发关于人工智能深度伪造可能影响大选的讨论。美国联邦通信委员会把使用人工智能生成的声音进行呼叫定性为非法，并称机器人电话中用人工智能生成的声音“在过去几年中不断升级”，并且“有可能通过模仿名人、政治候选人和亲密家庭成员的声音来制造错误信息迷惑消费者”。

事实上，人工智能已经渗入美国总统竞选活动。美国硅谷科技开发者为民主党总统参选人迪恩·菲利普斯创造了一个仿真聊天机器人，称用户可以与模仿菲利普斯的人工智能产品对话。此前，人工智能生成的虚假信息已多次干扰美国政治选举。在2023年2月芝加哥市长选举第一轮投票前夕，社交媒体出现一段关于候选人保罗·瓦拉斯的视频，伪造瓦拉斯的声音发表言论，声称“警察随随便便就可以射杀嫌疑人”，并呼吁削减警察经费。在瓦拉斯向社交媒体平台发出投诉后，社交媒体删除了这段视频，但该视频在下架前已经被浏览了数千次。人们对瓦拉斯的语音录音是否伪造视而不见。美国政府监管组织“捍卫公众利益组织”负责人罗伯特·韦斯曼称，政治深度伪造时刻已经到来，政策制定者必须尽快采取保护措施，否则将面临选举混乱。深度伪造会播下混乱的种子，使欺诈行为永久化。布鲁金斯学会专家韦斯特称：“预计今年大选将是一场势均力敌的激烈竞争，只要能改变三四个州5万张选票就可能具有决定性作用。”非营利组织学者霍尔曼认为，人工智能就可能起到这样的作用，并可能“决定这场选举的结果”。

3.人工智能内容能以多种方式影响2024年的选举。与过去的选举宣传相比，人工智能生成的内容质量更高、更容易大规模生产，从而有可能增强破坏性宣传活动的效果。此时，人工智能内容更像是虚假信息传播的放大器，威胁包括：制造社会就某些政治问题形成共识的假象；削弱政府对选民需求的响应，破坏政府反应能力，；左右公众舆论，加剧分歧；打击或欺骗选民，降低选民参与选举的积极性；破坏对选举过程的信任。[4]从自动电话到社交帖子，不同类型信息即便在没有人工智能生成内容的情况下，也一定会继续传播，但生成内容可能使大规模信息输出的成本更低、更容易被世界各地的选民们采信，也更难被识别和揭穿。例如，深度伪造和语音克隆已经被用来模仿竞选公职的候选人。在美国新罕布什尔州初选前，人工智能模拟总统拜登的自动电话，试图阻止民主党选民投票。恶意行为者还可以利用生成的图像，使通过虚假账户影响受众的行为看起来更可信。现在，人工智能可以轻易创建大量人物资料。自动化流程也有助于更快捷地同时 操纵这些虚假账户。最后，在社交媒体上或通过代理网站分享的大量不同内容的文本可以被用来制造社会就某些政治问题形成共识的假象，或散播不同的叙事，而不会像过去那样出现令人起疑的语法错误和行话误用。网络上缺乏高质量的、以少数族裔语言呈现的选举相关信息，人工智能生成内容可以填补这一空白，并占据搜索结果页面，因为算法在一定程度上依据内容的新鲜度对搜索结果进行排序。

[1] https://www.foxnews.com/politics/voters-should-be-scared-s-less-about-2024-election-rigging-because-of-ai.

[2] https://www.guancha.cn/internation/2024_02_10_725082_2.shtml.

[3] https://sputniknews.cn/20240124/1056609469.html.

[4] http://en.iiss.pku.edu.cn/__local/3/7F/3D/9EA4A3B30950C7A22DAC5E56962_861E8C97_60B97.pdf.