作者：Howie Su（产业分析师）

生成式伪造AI正在入侵民主世界

汤姆克鲁斯、欧巴马、苏纳克和泰勒丝有什麽共同点？答案是它们都是网路上发布的深度伪造影片的主题，Deepfakes 是使用人工智慧生成的内容，它们可以用来模仿真人，而且栩栩如生，只有电脑才能侦测出它们不是真人。人工智慧工具的激增引发人们对利用深度造假来破坏声誉、破坏民主选举以及损害对经过验证的真实线上资讯来源的信任的严重担忧，世界经济论坛的《2024 年全球风险报告》将错误讯息和假讯息列为未来两年​​世界面临的头号威胁，2024 年 2 月，网路上出现模仿美国总统乔·拜登声音的深度伪造影音，该音频片段被用於针对美国新罕布什尔州民主党选民的自动电话通话，在伪造的讯息中，可以听到人工智慧产生拜登声音，敦促人们不要在该州初选中投票。

由於定於 2024 年 11 月举行美国大选，拜登看起来郑宇川普争夺总统宝座，为防止进一步深度伪造，美国当局正在起草新的法律，禁止生产和传播冒充个人的深度伪造内容。

拟议的法律由美国联邦贸易委员会（FTC）提出。美国联邦贸易委员会警告说，先进技术正在推动用於欺骗毫无戒心的公众的深度伪造品大幅增加，当局认为，诈欺者正在使用人工智慧工具以令人毛骨悚然的精确度和更广泛的范围冒充个人。随着语音和其他人工智慧型态的诈骗不断增加，保护民众免受冒充者诈欺比以往任何时候都更加重要。，虽然这些拟议的法律旨在阻止诈骗者，但它们也适用於冒充政府和商业实体，因此如果签署成为法律，可以提供保护选举过程的法律保障。

深度假货和分裂的社会

2024 年 1 月在达沃斯举行的世界经济论坛年会的关键主题之一是重建信任，深度造假对公众信任的潜在影响是深远的。当它们被用来歪曲政治家、公民领袖和行业领袖时，它们可能会削弱人们对政府、媒体、司法系统和私人机构的信心，随着大众对数位内容的真实性越来越怀疑，这种怀疑可能会导致人们普遍脱离公民生活，并减少知情的公共论述。包括微软在内的大型科技组织已经开发了工具包来确保家庭的线上安全。其中包括透过批判性思考和质疑他们所看到的内容是否真实来帮助人们发现错误讯息和虚假讯息的指导，随着世界深入进入人工智慧时代，控制人工智慧滥用的法律措施对於保护资讯和机构的信任至关重要。作为线上用户，我们可能都必须更频繁地挑战自己：这是真的吗？

事实上，不只美国，全球今年有七十几个国家进入选举，国内相关的法规与打假的措施需要不断提出，否则将可能落入大量的伪造内容之中。