欢迎关注瞭望智库视频号
2022年12月，美国人工智能公司OpenAI推出生成式人工智能ChatGPT。
这是一个历史分水岭性质的颠覆式创新，催生了一个兴奋与恐惧交织的新时代。
在短短一年多时间里，AI生成的文字、图像、视频和声音潮水般涌入政治、经济和社会各个领域。今年２月，OpenAI又发布了能根据文字指令直接生成一分钟“完全超现实”高清视频的模型Sora。３月29日，OpenAI又公布了现阶段仅限于合作伙伴使用的语音AI软件“声音引擎”（Voice Engine），只需一个人的15秒语音样本，就能复制出此人的声音。OpenAI说，之所以推迟面向公众发布，主要原因是今年是全球大选之年，希望尽可能避免虚假信息。
OpenAI官网发布的Sora生成视频图像显示，一辆汽车行驶在盘山公路上。
作为一项颠覆式通用性创新技术，生成式人工智能改变着各行各业，也改变着选举政治的面貌。2024年大选因此成为美国历史上“第一次人工智能选举”，大选进程中会否出现“虚假信息风暴”进而左右大选结果，引发多重担忧。
文 | 徐剑梅 瞭望智库驻休斯敦研究员
本文为瞭望智库原
创文章，如需转载请在文前注明来源瞭望智库（zhczyj）及作者信息，否则将严格追究法律责任。
总体上看2024年美国大选，一派人悲观，担忧人工智能（以下简称AI）技术的应用将掀起“虚假信息风暴”，使得选民被社交媒体上的海量错误信息淹没，进而影响选举结果。
谷歌前首席执行官埃里克·施密特曾预测，“2024年的选举将一团糟，因为社交媒体无法保护我们免受AI生成错误信息的侵害。”
2024年3月5日，选民在美国弗吉尼亚州阿灵顿一处投票站填写选票。新华社记者 刘杰 摄
另一派人乐观，认为前者的担忧在相当程度上被夸大。在他们看来，AI固然可能在2024年美国大选中扮演重要角色，使得合成媒体、深度造假信息更加泛滥，但不必因此夸大AI造假对选举的影响，须知自古以来，政治从不纯粹。在没有AI工具的年代，假新闻也很猖獗。
关于使用AI生成的虚假竞选信息，抽象的文字叙述是苍白干巴的，不如举出实例。
2023年４月，拜登宣布竞选连任后，共和党全国委员会立即发布一段AI生成的攻击式视频广告，以“如果……会怎样”的句式，搭配阴沉僵硬的画面与人物、逼真的新闻播报声音，描绘现任民主党总统拜登连任后，美国可能面临的末世景象——国际紧张局势升级、金融系统崩溃、边境不复存在、城市犯罪猖獗……拜登和副总统卡马拉·哈里斯在选举之夜获胜派对上拥抱时，面部表情扭曲，光影充满不祥的暗示。不能不说，虽然片尾注明“AI生成”，但你的注意力与思绪已被这段末日视频夺走。这一视频在美国右翼选民中不胫而走。
无独有偶，也是在2023年４月，官司缠身的特朗普到曼哈顿联邦地区检察官办公室自首并受到刑事指控。此前几天，他在社交媒体上提前发布了自己将要被捕的消息。英国记者、开源调查组织Bellingcat的创始人艾略特·希金斯看到后，给AI艺术生成软件Midjourney发布“制作唐纳德·特朗普在被捕时摔倒图片”的指令，只消几秒钟就得到令他满意的图片，他随即在社交媒体Ｘ（推特）上发布，标明是“创作”，两天内浏览量接近500万次。迄今，仍有大量网民信以为真。
其他AI造假事例也不胜枚举。据美媒报道，今年１月新罕布什尔州总统预选期间，一些选民收到模仿拜登声音的机器人电话，试图劝阻他们不参加预选投票，“把选票留到11月（大选日）”。去年网上还流传着一个深度造假视频，内容是进步派国会参议员伊丽莎白·沃伦坚称应该禁止共和党人在2024年大选中投票，用意显然是为了激怒共和党选民。
美国业内人士列举的今年美国大选面对的“AI威胁”还包括能克隆语音的自动呼叫、更具诈骗性的网络钓鱼电邮、冒充选举官员和新闻媒体的欺诈性账号等。
２月中旬，由温和保守派和前共和党人士创立的政治行动委员会“林肯计划”制作发布了一段被广泛分享的视频，“用AI想象弗雷德·特朗普（特朗普父亲）会说的话”。视频中，去世多年的老特朗普在镜头前面无表情地PUA自己的儿子，指责他的经商成绩“全是垃圾”，个人生活不检点，子女都讨厌他，“我一直都知道你会搞砸的……你一直都是个傻瓜，是一个笑话……我死30年了，仍然以你为耻。”顺便说一句，老特朗普是1999年６月去世的，即25年前。这段视频结束时注明内容“全部或基本上由AI生成”，并且包含“未发生的言论或行为”。
这带来传播学上一个常见现象：假币每每驱逐真币。
特别在网络上，即便是多数受众心知肚明的假视频，仍然可能比真实视频更有点击量，因为更能给受众留下深刻而强烈的印象，进而更能影响受众的情绪与态度。不仅如此，这些AI工具比以往任何时候都更容易获得，并且迅速升级换代，进步神速。Midjourney的最新版本已能生成真实的手，是早期成像软件无法企及的。使用AI来处理AI生成内容的技术也正在迅速发生大量创新。拜AI工具所赐，生成合成的虚假内容所需的成本、时间和技术门槛非常低。
英国《经济学人》周刊概括说，2024年大选中，恶意应用AI技术导致的变化可以归纳为三点：一是增加虚假信息的数量；二是提升虚假信息的质量；三是依靠大数据和机器学习，影响微观目标——选民个体的情绪。不同选民可能收到不同的量身定制信息，这种做法高度个性化并且更隐蔽。
ChatGPT问世后，美国联邦和州政府关于AI监管的法律法规迅速增多。但截至目前，
在全球，AI总体上基本不受监管。这意味着打击虚假信息和深度伪造变得更加困难。
OpenAI首席执行官萨姆·奥尔特曼曾表示，2024年大选是 OpenAI的关注焦点，他“特别担心这些模型可能会被用于大规模制造虚假信息”。Convergence Media数字营销副总裁汤姆·纽豪斯则预测，今年美国大选的“十月惊奇”——11月大选投票日之前可能发生的对选举结果影响重大的意外事件，有可能来自AI。
实际上，美国选举政治中的虚假新闻早已有之。当年马克·吐温的小说《竞选州长》就对此极尽讽刺之能事。
在库叔亲历的前两次美国大选中，虚假或误导性竞选信息，以及“深度造假”内容也不胜枚举，并且发布新闻的媒体本身，也会因党派立场被攻讦为假新闻媒体。2016年大选以来，特朗普一直用“假新闻”给自由派主导的美国主流媒体贴上这一标签。
但近些年，美国各界最为关注的是运用AI的“深度造假”内容。
有美媒考证，2018年中期选举时，喜剧演员乔丹·皮尔利用“深度造假”技术制作虚假视频，显示前总统奥巴马在演讲中侮辱特朗普，使得“深度造假”首次引发广泛关注。2020年大选中，在脸书上广为传播的一段AI视频显示，时任民主党众议长南希·佩洛西在演讲中结结巴巴，但实际上并无此事。
美国网络安全策略顾问彼得·辛格把在社交媒体平台上，通过吸引网民点赞和分享虚假内容来传播观点、攻击他人的行为称为“点赞战”，其被喻为网络战争的“双胞胎”。
从2016年大选到2024年大选，一个引人注目的趋势是，用于传播欺骗和误导性信息的技术，其进步速度远远快于识别这类信息的技术。
深度造假的内容更加“强大”，其生产速度更快、成本和技术门槛更低，因而也更易于大规模使用和快速普及。
“点赞战”这一特点也是2024年美国大选与以往相比格外不同之处。生成式AI工具问世后，用户只需要发出指令，就能合成任何人的声音，生成任何人几乎可做任何事情的逼真图像。社交媒体上的AI机器人帐号还具有接近人类水平的对话能力。运用 AI的深度造假技术，如今能让政客或名人正在说着他们从未说过的话，使用他们根本不会的语言，做他们从未做过的事情，AI专家有时也很难判断真伪。
不仅如此，即便制作者进行标注，又或事实核查网站和主流媒体实时认定其为不实内容，也难以阻止它们在社交媒体上获得快速和有效的传播。
AI还能比社交媒体更准确地帮助虚假信息“微观定位”到目标用户, 并用于生成恶意软件来创建“令人信服的虚假选举记录”。
布伦南中心(Brennan Center)的研究指出，美国大选面临的AI造假挑战远不止虚假信息或恶作剧，还存在更深层次的问题。
比如，用于运营选民登记数据库和验证邮件选票签名的算法系统，可能存在种族等形式的偏见。又如，目前生成式AI工具所使用的训练数据本身，就涵盖大量选举虚假信息，可能会在与选民互动时支持虚假主张。再如，大语言模型可以被用来加深选举缺乏诚信的叙事，又或者根据选民个体情况“量身定制”互动手段以提高说服效果。
布鲁金斯学会评估Midjourney、DALL-E 2 和Stable Diffusion这三种美国当下流行的文件和图像AI生成软件，发现之前大选中已被认定的错误和虚假叙事, 逾85%都通过了这些软件的内容真伪审核。
生成式AI技术能够充分利用选民的种族、信仰和政治认同等，将不实信息与选民接收信息的环境相融合，提高以假乱真水平，从而以前所未有的方式、速度和规模加剧虚假信息在网络上的生成与传播，制造不稳定和混乱的网络环境，这样选举过程和结果的可信度受质疑的风险会非常高。不少业界人士担忧，
AI技术可能会加速对媒体、政府和社会信任度的侵蚀。
一年多来，美国媒体可以说是在睁着铜铃般大的眼睛捕捉使用生成式AI技术的深度或疑似造假，不厌其详地报道每一个这样的大选造假事例。但在库叔看来，这些报道的“细致”程度，与案例数量及其影响似乎并不匹配。虽说未来几个月里，随着选战的深入，会出现更多虚假信息，AI驱动的信息碎片会更加泛滥。
