编辑丨李雅诗 兰意维 明珂 吴梓聪 钟坤洋
【本文看点】
在数字化浪潮中，人工智能（AI）技术的迅猛发展带来了前所未有的机遇与挑战。特别是在隐私保护领域，如何在创新与安全之间找到平衡点，已成为全球性的议题。2024年7月11日，美国参议院商业、科学和运输委员会举办的听证会上，来自Mozilla的专家就AI时代的隐私保护提出了深刻见解。
该文章以机翻为主，辅之以人工微调。受限于篇幅，本文仅展示部分核心内容，如需获取全文翻译PDF文件，请在本公众号后台回复“
AI创新与隐私保护
”（不含双引号），供各位读者参考。
往期美国国会听证会系列推文：
【主要内容】
一、关于Mozilla
Mozilla是一家非营利基金会、开源社区和科技公司，致力于推进互联网的公共资源性质和用户隐私保护。
二、全面隐私立法的必要性
隐私是人工智能政策的重要组成部分
。人工智能，尤其是生成式人工智能，已经创造了一种推动公司收集尽可能多数据的动力，
形成了一场积累大量数据的竞赛。
公司能收集到的任何额外数据，包括专有数据和个人数据，都可能成为关键的竞争优势。
因为公司
试图建立
"数据护城河"
，抵御潜在的竞争对手。
如果没有监管，商业动机将驱使公司想方设法收集越来越多的数据。
例如，大型科技公司可以收集更多用户数据来训练人工智能模型，而随着数据价值的增加，数据经纪商也会有动力收集更多数据卖给有人工智能野心的第三方。
人工智能系统依赖数据发展壮大
，而开发先进人工智能模型的驱动力也加剧了对大量个人信息的需求。
这种数据收集往往是在未经充分同意或欺骗性选择的情况下进行的
，给个人隐私和安全带来了巨大风险。
三、数据最小化：隐私与人工智能政策的核心与基石
数据最小化原则确保仅收集实现特定目的所必需的数据，降低隐私泄露风险。例如：
1、知情同意：
在使用个人数据训练人工智能模型时，个人必须切实了解其数据的使用方式，并被征得明确同意。
2、隐私设计：
将隐私考虑因素纳入人工智能系统的设计和开发，确保隐私不是事后考虑的问题，而是一个基本组成部分。
四、
对隐私增强技术的投资
立法固然重要，但技术进步必须与立法并驾齐驱，才能创造一个更安全、更私密的未来。
需要对
隐私增强技术（ privacy-enhancing technologies, PETs）
进行大量投资，以开发尊重和保护个人隐私的人工智能系统
。
1、隐私增强技术能够提供创新解决方案，降低人工
智能生命周期中的风险，同时确保在不阻碍技术进步的情况下维护隐私。例如，
PETs可
以在设备上进行训练和处理，或通过差异化隐私来混淆机器学习输出，以降低被重新识别
的风险
。
2、 Mozilla致力于在浏览器和人工智能领域推进隐私保护方法。
开发优先考虑用户隐私的工具，
这些工具在用户设备上运行（通过 Llamafile 等项目）
，并
开发可互操作的私人归因（IPA）
等技术，通过利用多方计算，最大限度地减少通过浏览器收集数据的需要
。
3、
本地或设备上处理
（
Local or on-device processing
）
使人工智能模型
能够在本地设备而非集中式云服务器上运行，从而大大减少了服务提供商传输和存储的数据量
。例如，Mozilla 在火狐浏览器中启用的人工智能翻译功能就是利用机器学习在本地执行翻译的——这确保用户数据（如页面 URL 和内容）不会被发送到 Mozilla或第三方服务器，后者可能会将收集到的数据用于自己的目的。
五、开放性在保护隐私的人工智能中的作用
开放性是提高人工智能技术中可验证和有意义的隐私的基本要素。
Mozilla称
从开源开发实践中获得了明确的证据，
即开
放性允许多样化的投入与合作，促进了隐私保护技术的发展
，从而使每个人都能从
中受益，
而不是依赖于模糊信息以获取安全性。
Mozilla 对开放性的承诺体现在通过 Llamafile 等项目，
努力使人工智能模型能够
在私人设备上运行，并使用私人数据。
这减少了将数据发送到集中服务器的需要
，降低了隐私风险，促进了用户控制。
六、人工智能会加剧隐私侵犯的风险
AI技术可能加剧隐私侵犯行为，如在线操纵、定向诈骗和深度伪造等。其中一些最紧迫的问题包括：
1、剖析和操纵：
人工智能可以推断出个人的敏感属性，如果用于有针对性的内容或歧视，可能会侵犯隐私。广告业尤其如此。
2、同意和数据权利：
对于儿童或健康数据等敏感类别，需要更新现有的保护措施，这些更新可包括
更严格的匿名化标准、纳入人工智能系统推断出的数据（如行为特征和预测分析）以及在利用此类敏感数据训练人工智能模型时改进披露要求
。
3、偏见与歧视：
根据有偏见的数据训练出来的人工智能系统会延续和放大这些偏见，从而导致歧视性的结果。
4、数据开发：
在庞大的数据集上训练的生成式人工智能系统可能会无意中泄露私人信息，给使用此类系统的企业带来隐私和安全风险。
5、深度伪造和身份滥用：
人工智能生成的内容可以令人信服地描述个人做了他们从未做过的事情，从而威胁到隐私和声誉。
七、结论
Mozilla提出建立一个
监管框架，以促进负责任的人工智能开发和部署，保护个人隐
私，并促进多样化和有竞争力的人工智能生态系统。这包括紧急制定明
确的规则
和执行机制，阻止对网络隐私权的侵犯。
Mozilla认为，
在人工智能时代保护隐私是一项严峻的挑战，需要全面的立法、支持
开放的政策、对隐私增强技术的投资以及对数据最小化的承诺。
