高科技公司大量收集人们的个人数据,给政治和社会生活带来了巨大变化,使这些公司获得了空前强大的权力。哈佛大学教授索莎娜·祖波夫(Shoshana Zuboff)在新书《监控资本主义:在新的权力前沿为人类未来而战》中集中讨论了该问题,并提出了
“监控资本主义”
的概念。普林斯顿大学社会学和公共事务教授保罗·斯塔尔(PAUL STARR)在美国《外交事务》杂志2019年11/12月刊发表了对该书的评论。
原文 :
《宇宙的新主人:谁在操控现实?》
编译 |
熊一舟
图片 |
网络
经济史学家
卡尔·波兰尼
(Karl Polanyi)在1944年出版的经典著作
《大变革》
(The Great Transformation)中,
将现代资本主义的故事描述为一场“双重运动”,它既导致了市场的扩张,也引发了对市场的限制
。在18世纪和19世纪早期,旧的封建商业限制被废除,土地、劳动力和货币被当作商品来对待。但不受约束的资本主义破坏了环境,损害了公共健康,导致了经济恐慌和萧条,而在波兰尼写作的时候,社会已经重新引入了对市场的限制。
哈佛大学商学院教授
肖莎娜·祖波夫
(Shoshana Zuboff)在新书
《监控资本主义:在新的权力前沿为人类未来而战》
(The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power)中指出,
随着“监控资本主义”的兴起,波兰尼的“双重运动”前半部分有了新版本。
“监控资本主义”是脸书和谷歌开创的一种新的市场形式。
在监控资本主义时代,她认为资本主义再次扩展了市场的范围,这一次,她声称“人类的经验是获取、预测和销售等商业行为的免费原材料”。
随着“无处不在的计算”(将计算机扩展到生活的各个领域)和物联网(将日常物品连接到互联网)的兴起,数据的提取变得无处不在。我们生活在一个网络设备越来越多的世界,这些设备捕捉我们的通信、动作、行为和关系,甚至我们的情绪和思想状态。
祖波夫在书中对数字经济进行了精彩而引人注目的分析,并呼吁全社会关注技术给政治和社会生活带来的巨大变化。
大多数美国人将科技公司构成的威胁视为隐私问题。但祖波夫指出,监控资本主义涉及的不仅仅是空前规模的个人数据积累。
技术公司和他们的专家——祖波夫称他们为“新的牧师”——
正在创造新的权力形式
,这些都是在个人意识和公共责任之外运作的。要想遏制这种“祭司”的权力,就需要一种新的对抗手段——一种以个人自由和民主之名,遏制监视资本主义的手段。
一场反对科技行业力量的行动已经开始。
美国司法部和联邦贸易委员会正在对亚马逊、苹果、脸书和谷歌进行反垄断调查。今年7月,联邦贸易委员会对脸书处以50亿美元罚款,理由是该公司违反了其在隐私政策中向消费者做出的承诺。国会正在考虑立法限制科技公司对数据的使用,并取消1996年《通信规范法》对用户生成内容给予的广泛豁免权。这场全国性的辩论,其最终影响仍不确定,这使得祖波夫这本书更加及时和切题。
监控资本主义的兴起也有国际意义。
美国公司长期主导科技行业和互联网,引起了其他国家的怀疑和反对。在经历了2016年美国总统大选的教训后,美国人对大量个人数据落入外国势力手中感到紧张。今年7月,一款名为FaceApp的手机应用引发了一场病毒式恐慌。数百万美国人下载了这款应用来查看自己老年时的投影照片。有传言称,这款应用被俄罗斯情报机构用于收集面部识别数据,可能是用来制作深度虚假视频——该公司否认了这一传言。
根据祖波夫的说法,监控资本主义起源于一家美国公司的杰出发现和厚颜无耻的主张。
她写道:“谷歌之于监管资本主义,就像福特汽车公司和通用汽车公司之于大规模生产管理资本主义一样。”
成立于1998年的谷歌很快就主宰了互联网搜索。但最初,它并不专注于广告业务,也没有明确的盈利途径。它所拥有的是一种开创性的洞察力:它从搜索中获得的数据——查询的数量和模式,以及人们的措辞点击和模式,等等——可以用来改进谷歌的搜索结果,并为用户添加新的服务。这将吸引更多的用户,从而在学习和扩展的递归循环中进一步改进其搜索引擎。
谷歌在2002年实现了商业上的突破,当时它发现它也可以利用收集到的数据来根据用户的特征和兴趣对用户进行描述。然后,该公司不再将广告与搜索查询匹配,而是将广告与个人用户匹配。祖波夫认为,谷歌的使用者并非谷歌的客户,而是它的原材料供应商,
公司从他们那里获得了她所说的“行为盈余”(behavioral surplus)。这些盈余包括谷歌改善用户服务所需的数据之外的数据。
再加上该公司在人工智能方面的强大能力,谷歌巨大的数据流使得它能够创造出祖波夫所认为的监控行业的真正基础——
“预测产品”
(prediction products),预测用户“现在、很快、以后”将要做什么。预测人们会买什么是广告的关键,但行为预测在其他方面也有明显的价值,比如保险、招聘决策和政治竞选。
祖波夫的分析有助于理解谷歌提供的看似不相关的服务、其多样化的企业和许多收购行为。祖波夫认为,Gmail、谷歌地图、安卓操作系统、YouTube、谷歌家庭,甚至自动驾驶汽车——这些以及其他几十项服务都是扩大公司线上线下用户数据“供应路线”的途径。
这种扩张模式反映了该行业的一种基本逻辑:在争夺人工智能和监控收入的竞争中,能够同时获取海量和多样化数据流的公司占据了优势。
其他在最高层从事监控资本主义的公司——亚马逊、脸书、微软和大型电信公司——也面临着同样的扩张要求。
这个行业一步步地扩大了监视的范围(从虚拟世界迁移到现实世界)和监视的深度(探索个人生活的内部信息并积累关于他们的个性、情绪和情绪的数据)。
从提取数据和做出预测,科技公司已经开始干预现实世界。
祖波夫写道,科技公司“通过执行一些细微的动作,比如在你的脸书新闻推送中插入一个特定的短语,在你的手机上设置购买按钮的时间,或者在保险付款延迟时关闭你的汽车引擎,来推动、调整、引导、操纵和修改特定方向上的行为。”这种大规模改变行为能力的证据从脸书进行的两项研究得以验证。在2010年美国国会选举期间,该公司的研究人员对6100万名用户进行了随机对照试验。用户被分成三组。两组人在他们的脸书新闻源的顶部显示了关于投票的信息(比如投票点的位置);其中一个群组的用户还收到了一条社交信息,其中包含至多六张已经投票的脸书好友照片。第三组没有收到特别的投票资料。这项干预对那些接收到社交媒体信息的人产生了重大影响:研究人员估计,这项实验增加了34万张选票。在第二项实验中,研究人员调整了推送的情绪内容,在某些情况下减少了表达积极情绪的朋友的帖子,在另一些情况下减少了表达消极情绪的朋友的帖子。
结果那些在自己的新闻推送中看到更多负面帖子的人,自己也会发布更多负面帖子,这表明存在“社交网络大规模的情绪感染”。