抗议巴西最高法院法官亚历山大·德·莫赖斯,他下令暂停X,巴西圣保罗，豪尔赫·席尔瓦/路透社
民主要想生存下去,领导人就必须正面应对这场政变。他们需要减少对强大科技公司的过度依赖。他们必须扶持公共利益技术,以作为抗衡力量。他们需要重建自己的技术专长。最重要的是,他们必须建立有效且创新的监管制度,以切实追究科技公司(以及使用技术的政府)的责任。为了维持基于法治的开放、自由和充满活力的数字社会,必须这样做。
巴西的案例提醒我们,亡羊补牢,犹未为晚。民主政府如果选择运用其力量,则可以夺回主权,并在科技领域有效维护自身利益。
作者：
MARIETJE SCHAAKE
编辑：阿K
8月30日,巴西最高法院禁止社交媒体平台X(正式名称为Twitter)在该国互联网上运营。该禁令是该平台所有者、世界首富伊隆·马斯克(Elon Musk)与法院法官亚历山大·德·莫赖斯(Alexandre de Moraes)之间长达数月的斗争的最终结果。莫赖斯负责调查网络虚假信息在试图让巴西前总统贾尔·博尔索纳罗继续执政(尽管他已在大选中落败)中所扮演的角色。作为这些职责的一部分,莫赖斯曾下令X关闭数百个传播虚假信息的账户。作为回应,该平台指责法官进行审查。马斯克撤回了X在巴西运营所需的合法代表,最终导致法官禁止巴西人完全访问该平台。
马斯克对这一决定并不满意,他将莫赖斯比作“邪恶的暴君”
。但马斯克的愤怒并不仅限于严厉谴责。据《纽约时报》报道,他积极想办法绕过这一禁令。首先,马斯克鼓励巴西人使用虚拟专用网络(VPN)来规避封锁。然后,他的Starlink卫星网络(直接从太空向用户提供互联网服务)继续提供访问该网站的权限。最后,X公司通过新的服务器重新规划了互联网流量,从而完全绕过了巴西的电信管制。
在拥有大量X用户(以及资产扣押)的国家当局的压力下,该公司最终同意屏蔽虚假信息账户并支付罚款。但科技巨头如此公然藐视国家决定,这一事实触目惊心:民主政府在数字世界中的主导地位已经丧失。取而代之的是,公司及其高管日益掌控着局面。这种权力转移是社会对科技公司的系统性依赖、科技公司所处的法律灰色地带以及人工智能等新兴技术的独特特征共同作用的结果。这是公共机构被剥夺技术知识、代理权和问责制的产物。这是几代各党派政治家所允许的现实。
民主要想生存下去,领导人就必须正面应对这场政变。他们需要减少对强大科技公司的过度依赖。他们必须扶持公共利益技术,以作为抗衡力量。他们需要重建自己的技术专长。最重要的是,他们必须建立有效且创新的监管制度,以切实追究科技公司(以及使用技术的政府)的责任。为了维持基于法治的开放、自由和充满活力的数字社会,必须这样做。
巴西的案例提醒我们,亡羊补牢,犹未为晚。民主政府如果选择运用其力量,则可以夺回主权,并在科技领域有效维护自身利益。
私营企业不断推出新的技术发明,但政策制定者却未能跟上步伐。在美国,两项重要的技术法规——《通信规范法案》和《数字千年版权法案》分别于1996年和1998年通过,而早在乔布斯想到iPhone之前,这两项法案就已经存在了。自那以后,科技公司从开发产品发展到运营整个系统,影响到了以前由国家独家管辖的领域,例如数字基础设施及其安全保障。科技公司将强大的工具和服务释放到一个没有适当监管的世界,成为具有重大地缘政治意义的技术的实际管理者,包括面部识别系统、卫星互联网连接以及情报收集的某些方面。微软有一个威胁情报中心,收集情报的能力堪比国家安全局。加密货币公司像美联储一样自行铸造货币。亚马逊的清洁能源组合甚至超过了某些国家,尽管它正在建设耗电的数据中心。
随着权威的增长,科技公司的首席执行官们正在成为比生命更重要的存在。
马斯克也许是其中最明显的例子,因为他直接攻击世界领导人并参与政治。但其他高管也在公共生活中占据了超乎寻常的突出地位。Meta首席执行官马克·扎克伯格经常被要求在国会作证。他辩称,他的业务是美国与其他大国竞争的关键(因此应该不受干扰)。Alphabet、亚马逊和微软的高管也经常出现在华盛顿。在一次听证会上,共和党参议员约翰·肯尼迪甚至询问OpenAI的首席执行官萨姆·阿尔特曼,他是否可能管理美国人工智能监管机构。政治家们已经放弃了对非选举产生、不负责任的技术领导者的责任。
因此,大大小小的科技公司如今对甚至是最关键的基础设施都拥有前所未有的控制权。例如,它们主导着海底数据电缆,而海底数据电缆几乎承担着全球互联网流量的运输系统。全球近99%的数据都通过它们传输,包括每天10万亿美元的金融交易和高度敏感的政府信息。如果没有这些电缆,各种重要活动将无法进行。因此,各国或政府间机构应对它们进行管理和保护。但实际情况是,在政策制定者袖手旁观的情况下,公司却建造、使用和维护着这些电缆。
科技公司还深入参与国家官僚机构,使政府在平凡但严重的问题上变得脆弱。
例如,2013年,荷兰税务部门部署了备受争议的私人算法风险评估系统,用于识别欺诈性纳税人。这是一场灾难:由于评估错误,包括种族偏见,成千上万的家庭失去了家园、工作和子女监护权,因为这种不透明的、自我学习的风险评估工具非常严格且具有歧视性。
政治影响最终迫使政府辞职,并永久性地损害了人们对国家的信任。但部署了错误软件的公司却相对毫发无损。类似的算法仍在使用,并在全球市场上销售,有可能造成更大的破坏。
科技对权力的争夺扩展到了国家的另一项核心活动:战争。人工智能的应用在加沙被用于识别大量目标,引发了争议。乌克兰利用卫星公司获取情报和进行通信。这种依赖使科技公司对国家如何处理国防问题拥有巨大的影响力。例如,乌克兰所依赖的公司之一是Starlink,这使马斯克敢于对冲突的进程发表意见。他这样做是为了呼吁按照克里姆林宫的目标进行和平谈判,激怒了基辅及其支持者。
在其他情况下,科技公司实际上已成为冲突的直接当事方。对抗越来越多地发生在网络空间,因此各国越来越依赖私营公司的防御能力。设想一下,2021年,当殖民管道公司的网络遭到勒索软件攻击时,会发生什么。该公司是美国最大的能源供应商之一,因此这次攻击导致美国东海岸大部分地区的石油供应中断。由于加油站排起了长队,美国多个州宣布进入紧急状态。航班不得不改道。在攻击发生后与科技行业首席执行官的会议上,美国总统乔·拜登承认:“现实情况是,我们的大部分关键基础设施都是由私营部门拥有和运营的。”他继续说道:"联邦政府无法独自应对这一挑战。” 这是政府罕见地公开承认其在数字领域保护国家方面已经失去力量。
尽管破坏性的网络攻击日益增多,但白宫认为此类攻击尚未达到战争门槛。对于哪些网络攻击是禁止的,也没有明确的国际规则。通过数字手段进行的间谍活动通常不被视为侵犯国家主权,因此不受惩罚。
2022年,时任美国网络司令部司令的保罗·中曾根(Paul Nakasone)表示,美国使用进攻性网络能力打击俄罗斯目标,但并不认为此类攻击是直接与俄罗斯交战。然而,华盛顿确实在北约边界划了一条红线,以防止与莫斯科军队发生实际冲突。
在法律和政治模糊不清的情况下,公司更愿意充当雇佣兵。间谍软件公司可以雇佣,并向专制国家和民主国家出售复杂的情报工具。公司还在关键的在线节点中扮演着重要角色:亚马逊网络服务使用机器学习算法来应对国家支持的威胁,而谷歌威胁分析小组则将YouTube频道下线,因为它们在开展协调一致的影响行动。这类行动将冲突领域转移到了非国家行为者身上,他们的动机与政府截然不同,且责任程度也不同。
在技术方面,国家往往处于信息劣势。除了少数例外,它们缺乏获取信息以及理解(更不用说监管)新算法和发明所需的专业知识。因为知识就是力量,这种信息匮乏导致决策者在与强大的科技公司谈判时处于弱势地位,从而导致更多的外包。在国防、医疗保健和边境管制方面,Palantir Technologies等公司现在被信任进行关键的数据分析。尽管他们缺乏民主权威、问责制和经验,但他们仍在这样做。2024年夏天,帕兰蒂尔公司首席执行官亚历克斯·卡普在接受《纽约时报》采访时说:"拯救生命,有时甚至夺走生命,这非常有趣。
科技公司也在通过自己的钱包巩固权力。最大的科技公司异常富有:微软的市值高达3.2万亿美元,超过了法国的GDP,而法国是世界第七大经济体。因此,这些公司花数亿美元进行游说毫无问题。而游说者往往发现他们是在推开门。因为政客和其他官员对科技一窍不通,企业代表很容易左右他们的想法。科技公司也通过投资智库、会议和学术机构,用金钱左右了世界对其行业的集体认知。
科技企业在推广方面最成功的一个观点是,正如Facebook在2012年试图说服欧洲监管机构不要实施欧盟数据保护指令时所说的那样,“监管会扼杀创新”。这种说法是错误的,也是自私的,尤其是当大型科技公司成为守门人,给创新型初创企业带来困难时。然而,这句话至今仍广为流传。监管是动态的,而不是固定的,它会随着行业的发展而调整。在许多情况下,负责任的监管实际上激发了创新。例如,在更严格的环保法律生效后,公司发明了更环保或更可持续的产品。即使监管确实减缓了创新,但权衡之后,这样做也可能是值得的。从哲学上讲,创新的重要性并不比法治、消费者保护、非歧视或其他任何对民主至关重要的价值观更重要。如果一项创新有可能限制基本权利或违背公共价值观,那么监管就有权将其取代。政治家应该认识到这一事实并采取相应行动。
但即使他们这样做,也会遇到更多的障碍。科技公司通过拒绝解释其产品的运作方式获得了更大的权力。因此,学者无法独立研究算法或人工智能应用的内部运作。科技公司也公然进行欺骗。2016年,微软在爱荷华州寻求数据中心获得政治批准时,就以“锇项目”为化名。在空壳公司背后竞标已成为科技公司的常态。优步通过Greyball进一步模糊了这种做法。据《纽约时报》报道,在该项目中,优步在尚未获得运营许可的司法管辖区识别执法人员。然后,当他们打开应用程序时,他们很难确定优步是否真的在他们所在地区可用。通过这种方式,该公司得以在逃避检测的同时开展工作。除了零星的罚款之外,政府在遏制这些行为、要求透明度和追究公司责任方面做得还不够。
监管者还受到技术进步速度过快的阻碍。公司通过快速发明技术来规避法律,从而保持领先地位。
他们可以从事可疑行为而不必担心政策上的打击。例如,Clearview AI在人们注意到之前就抓取了整个互联网上的面孔。在政府就数据保护或知识产权问题表态之前(假设保护这些权利的法律已经生效),大型语言模型已经在整个互联网的文本主体上进行了训练。当公司收集大量信息并将其锁在公司内部时,公共机构就失去了获取信息的渠道,从而失去了权威性和公信力。结果就是恶性循环,私人权力最终会超过公共问责的能力。
到目前为止,全球各民主政府似乎对科技公司的崛起漠不关心,这令人震惊。
活动家和记者一再对该行业发出警告,但历届美国政府对该行业一直持放任态度,希望以自由放任的方式解决所有问题。欧盟的态度更为积极,但旨在终结权力争夺的法律却寥寥无几。民主国家需要明确如何全面管理科技。
在一个科技公司累积了关键决策权的社会中,政府应该采取更有效的行动。好消息是,如果他们决定这样做,民主政府有很多方法可以推进。这些方法包括增加决策者对科技产品运作的了解,然后有效地约束企业。政府可以首先针对算法时代调整贸易保密保护。他们应该要求研究人员能够访问数据,并且以政府名义使用的技术系统可以访问,例如通过《信息自由法案》请求。这样做可以让公众了解这些系统的运作方式,从而促进知情的监管辩论。同样,在数据中心土地和能源合同竞标或披露投资者信息方面,公司也应遵守更高的透明度标准。如果公司不愿透露资金来源,就不适合在公开市场上开展业务。
为了利用这种新发现的透明度,立法者还必须建立内部技术专长。这些专家将平衡游说者的喧嚣,游说者试图影响立法者对技术的理解。例如,美国可能会重新设立技术评估办公室(Office of Technology Assessment),这是一个帮助立法者理解新的电信和计算创新的国会机构,从1974年到1995年全面运作。政策制定者需要一个OTA或OTA的同等机构,以应对人工智能、量子计算和生物技术时代。
从更根本的层面来看,各国政府必须将工作重点从通过法律转移到灵活执行法律上来。他们需要将法律建立在正义、平等、非歧视和责任的核心原则之上,同时加倍努力建立具体、切实的执行机制,以应对下一次不可避免的技术突破。很多时候,执法都是事后才想到的,监督机构资源不足。各国政府必须通过制定更有力的手段来解决这个问题。例如,他们可以利用采购来诱导行为改变。作为信息技术最大的消费者,世界各国政府拥有必要的财政影响力来执行网络安全和非歧视标准,并追究违反现行法律或疏于防范数据泄露的公司责任。他们可以通过建立三振出局模式来做到这一点。在三次明确违规后,公司应被逐出竞标市场。
但必须彻底禁止最邪恶的科技公司销售其反民主技术。
2021年,美国商务部终于将生产Pegasus间谍软件的以色列公司NSO集团列入实体名单,限制其交易便利性。这一指定实至名归:Pegasus是一款间谍软件工具,深受专制政府欢迎,用于监视活动人士、记者和政治对手。但为时已晚。多年来,美国和其他国家在禁止该公司方面摇摆不定,因为该公司(以及类似的其他公司)变得越来越强大和复杂。
