点击上方“腾讯科技”，选择“置顶公众号”
关键时刻，第一时间送达！
文 / 熊节
公众号 / InfoQ
随着科技尤其是IT和互联网技术的发展，我们的世界越来越多地被计算机软件影响。毫不夸张地说，我们正在进入一个由程序员创造的世界。然而大多数程序员也许还没有意识到，这个高科技塑造的世界未必总是美好的。我们使用的新技术、创造的新商业模式，有很大可能被用于作恶。
科技如何被用于作恶：以分享经济为例
分享经济（Sharing Economy）是时下方兴未艾的新经济形态。据国家信息中心信息化研究部和中国互联网协会分享经济工作委员会发布的报告，2015年我国分享经济市场规模约1.95万亿元，分享经济提供服务者约5000万，保守估计参与分享经济的活动总人数超5亿。而且预计未来五年我国分享经济增长年均速度将在40%左右，到2020年市场规模或将占我国GDP的10%以上。
基于互联网技术的分享经济在其功能、竞争手段、盈利方式等方面，实际上都与传统的中介企业并无差异。植根于互联网的赛博中介比起传统的中介企业具有更强⼤的能⼒，能够将其商业触⾓扩展到全国范围。然⽽在能⼒增加的同时，这些赛博中介企业并未承担与之对应的责任。这种能⼒与责任的背离，值得引起特别的注意。
经营分享经济的多家代表性企业有⼀个共同的商业逻辑：企业不需要拥有资产，只需要扮演⼀个基于互联网的平台，通过信息分享来提供资产的流动性。轻资产模式真正的卖点在资本市场：这些企业不拥有从事经营所需的资产（包括物质资产和⼈⼒资产），却借由赛博中介的垄断性质拥有从事经营的收⼊流⽔，作为关键财务指标的资产收益率就会⾮常有吸引⼒——简⾔之，资本能够以同样的投⼊获得更加丰厚的回报。因此，效仿优步的轻资产企业受到了资本的追捧，“Uber for X”类型企业的融资能⼒显著强于其他移动互联网创业企业。
为了实现轻资产模式，这类分享经济企业⾸先需要强调其“平台”属性，拒绝为提供服务的劳动者负担⼈⼒成本。例如优步坚称使⽤其平台的司机是独⽴承包商、⽽⾮其雇员，从⽽拒 绝承担诸如社会保险、医疗保险、病假、加班费等劳动成本。
⽐传统的出租⻋公司更糟糕的是，作为赛博中介的分享出⾏企业 既有技术、也有垄断权⼒单⽅⾯修改利益分配机制，直接侵占劳动者的权益。据司机反映，在去年滴滴与Uber合并之后短短几个月时间，尽管乘客需要支付的车资提高了50%到100%，而司机的补贴却介绍了70%。如此频繁且⼤幅度地单⽅⾯削减司机收⼊，确实体现了“轻资产”模式的灵活性，然⽽当初吸引劳动者加⼊的“⾼收⼊”与“⾃由”却早已不知所踪。
分享经济企业仅仅提供信息平台这⼀商业逻辑，不仅使劳动者权益受到侵害，⽽且还帮助这些赛博中介企业逃避与其业务对应的社会责任，对消费者、甚⾄对更⼤范围的社会造成危 害。去年2 ⽉，⼀位密歇根州的Uber 司机在街头枪杀6⼈，Uber 公司的⾸席安全官Sullivan 对此事件的回应是“Uber 的司机资格审查机制⽆需改进”。在因其服 务并达到其声称的安全⽔平⽽在加州被起诉并不得不⽀付2500 万美元赔偿之后，Uber 的反应不是致⼒于提⾼安全⽔平，⽽是把原本每单加收的1 美元“安全乘⻋费”改名为“订⻋费”。
类似的事例在中国也层出不穷。去年7⽉，⼀位⼥乘客在浙江省东阳市乘坐滴滴快 ⻋时遭司机性骚扰40 分钟，⽽滴滴出⾏的回应是对司机杨某进⾏罚款并永久封禁、并提出 给该乘客50 元快⻋券作为补偿。湖北省武汉市⼀位⼥乘客被滴滴司机抢劫强奸，滴滴⽅⾯的回应称该司机此前并没有犯罪和不良驾驶记录，只字不提该 企业对这⼀恶性刑事犯罪事件应承担什么责任。据去年8⽉15⽇深圳市官⽅发布的⼀组数据：全市网约⻋司机中，共有2231⼈⾝份异常，其中40⼈为全国在逃⼈员，758 ⼈为涉毒前科⼈员，1433⼈为全国重⼤刑事犯罪前科⼈员，1479⼈的驾驶证状态异常；在⻋辆⽅⾯，发 现有6170辆⻋状态异常，其中有664辆达到报废标准。分享出⾏的安全状况仍然堪忧。
在传统的经济社会中，企业作为经营和盈利的主体，同时也对员⼯、消费者和社会承担相应的责任：企业有责任保障员⼯的合法权益、保护消费者的安全和健康、维护社会安定团结。 然⽽在前⾯列举的案例中，从事分享经济的企业⾃我定位为“信息平台”，将劳动者权益、 业务经营中的⻛险、安全隐患等等诸多⻛险与责任从⾃⼰⾝上摘得干干净净，全都推到了服 务提供的主体——即劳动者——⾝上。
这⼀“平台逻辑”在互联网⼤背景下或许有其合理之 处，然⽽⽆法回避的现实是提供服务的个体劳动者并⽆能⼒承担所有这些⻛险与责任，政府也⽆法跳过企业对个体劳动者实施有效监管。于是，被分享经济企业卸下的责任，就成了⽆本之⽊。分享经济企业之所以受到资本追捧，很⼤程度上正是因为他们把互联技术和分享 经济模式变成了逃避责任的⼯具。
科技如何控制我们的思想
信息技术不仅能够用于创造市场垄断、剥削劳动者、损害社会利益，而且可以用来塑造和控制人们的思想。为了刺激城市白领消费，我们的网络信息空间着力塑造城市白领“中产阶级”的理想生活状态，从而营造了一种城市白领专业人士的生活水平属于社会中等、与大多数人相当的错觉。
实际上，据国家统计局数据，2015年全国居民人均可支配收入中位数为19281元。据某不具名税务工作者的非官方估计，个人月可支配收入5000元以上就属于前10%的高收入者，个人月可支配收入10000元以上可能属于前1%的高收入者。从这个意义上，网络信息空间营造的“中产阶级”形象实际上是不折不扣的高收入人群。
当这些高教育水平、高收入人群自认为是社会的“大多数”，这种印象就会影响公众议题的设置。例如雾霾问题近几年成了万众瞩目的环境议题，似乎雾霾就是中国最严重、最急切的环境问题。然而正如评论者指出的：作为众多环境污染问题之一，雾霾之所以会被大家如此重视，作为优先级被选中、被讨论，完全是因为雾霾触犯到了生活在城市中、掌握舆论话语主权的中产阶级的利益。
虽然，雾霾的危害并不仅面向中产阶级，但它却是身在城市空间中的中产阶级最看得见且关切的污染。而对于身处农村空间中的底层穷苦百姓而言，土壤和水是直接的生产和生活资料，相比于蓝天，干净的土壤和水更有用处。
作为人口主体的工人、农民，他们的诉求无法被提出，只能作为城市白领诉求的附属。当城市白领的诉求与工农的诉求相冲突时，我们就会看到一种怪象：打着“大众”的名义提出的诉求与大众的利益根本违背。教育改革就是这样的一个例子。当重点大学里的农村学生比例自1990年代不断滑落，当农村学生考上任何高等教育机构的几率只有城市学生的1/8、考上顶尖大学的几率只有1/21，在教育领域年年被提出的议题却是“全面推进素质教育”。当作为高收入阶层的知识分子、城市白领占据“中产”的地位，真正的“大众”就在信息技术的飞速发展中被噤声了。
实际上，智能技术可能正在加深对社会弱势群体的偏见和歧视。正如Wendy Chun所说，“机器学习就像偏见的洗钱”。通过机器学习，偏见和歧视被包装成模型和算法，使不公正变得更加隐秘而影响深远。职场社交网站LinkedIn的搜索引擎更青睐男性求职者，Google的广告平台Adsense存在种族偏见，饱受争议的“预测性执法”（predictive policing）对非裔美国人和穆斯林形成结构性歧视，低收入人群会因为智能技术更难从贫困中逃脱。性别、种族、宗教信仰、收入……现实中的各种偏见与歧视，似乎都在智能技术中找到了落脚点。
智能技术不仅被用于实施对弱势群体的损害、歧视和隔离，而且被用于控制大众情绪。通过操控用户从新闻订阅渠道看到的信息，Facebook成功地调节了用户发帖的情绪，从而证明情绪可以在大量在线用户之间传染。一份曝光的材料显示，JTRIG（联合威胁研究智能小组，隶属于英国情报和国家安全机关政府通信总部)已经在通过Youtube、Facebook、Twitter、博客、论坛、电子邮件、短信、自建网站等渠道操纵大众情绪，从而消除“犯罪、安全和国防威胁”。
当用于政治领域，正如Cathy O’Neil指出的，智能技术可以诱导选民做出片面的判断；当用于商业领域，邱林川则指出，智能技术可以向消费者灌输消费理念，使他们成为对不断更新换代的消费品上瘾的“被制造的奴隶”（manufactured slave）。
科技如何在21世纪复活了17世纪的奴隶制
香港中文大学的邱林川教授有一个极具洞察力的观点：21世纪的数字科技正在复活17世纪的奴隶制。17世纪的奴隶制建立在一个三角贸易的基础上：欧洲殖民者把朗姆酒等制成品贩卖到非洲，把非洲的黑奴跨越大西洋贩卖到拉丁美洲，然后从拉丁美洲运回可可、咖啡、甘蔗、烟草等农作物。奴隶制生产有两个根本的支柱：其一是对奴隶的人身控制，其二是成瘾性消费。17世纪的欧洲，从精英到大众都开始热衷于消费甜食，就是对蔗糖的成瘾性消费的例证。正是因为有了这两个支柱，奴隶廉价的劳动生产出来的消费品被上瘾的消费者不断购买，才使得奴隶制的经济体系得以运转。
在今天的数字科技领域，我们看到了与这个体系堪相比较的现象。以富士康为代表的血汗工厂不仅残酷剥削工人的劳动，而且限制工人的人身自由，甚至在厂区安装了与17世纪运奴船相似的“防跳网”。这些血汗工厂把工人变成了生产线上的奴隶，这些“制造的奴隶”（manufactured slaves）生产出来的数字产品被源源不断地销往全球市场。
而在这个体系的另一端是我们日常频繁使用的数字科技，包括iPhone这样的设备以及其中的诸多应用，其目的是为了创造成瘾性消费，从而使“制造的奴隶”制造出来的数字产品不断被消费掉。微信存在的目的从来不是改善人们的社交，而是增加腾讯这家公司的财富。至于它为什么让人们上瘾，因为这样的软件本来就是被制造出来让人上瘾的。人们在其中沉浸越深，腾讯公司越能把用户打包销售，从中赚到越多的利润。
剥离掉所有的花言巧语，一个简单的描述摆在我们面前：我们用了一定的时间做某事，而做这件事的目的是为某企业增加财富。你把这件事叫做什么？我叫它“劳动”。微信的用户们都是免费的劳动力，当他们每天花1.7个小时刷朋友圈，他们就是在给腾讯打工，腾讯的财富就是建立在剥削这些免费劳动力之上的。
这个颇为惊人的论断，正是《数字劳工》的作者们试图告诉我们的。马克思说，资本家的财富来自对劳动者的剥削。然而建立在技术变革之上的新经济呈现出另一种样貌：白领知识工作者拿着高薪，在舒适的工作环境中追求更高的个人成就，这一表象使得像腾讯这样的互联网企业似乎脱离了马克思的理论，似乎被科技庇佑的他们可以毋须剥削劳动者即获得大笔利润。
在这样的时代背景下，《数字劳工》的作者们指出：以互联网为代表的信息与通信技术改变了劳动力市场的位置与形式，将劳动的场所从工厂转移到网络、到每个人的电脑与手机，并通过宣传和意识形态的灌输让人们心甘情愿地免费劳动。然而归根到底，资本对劳动者的剥削没有变——毋宁说是变得更残酷了：在数字化、网络化的大工厂中，资本家不仅不给劳动者提供社会保障，连工资都不付。
有人会辩称，这些软件只是继承了互联网自由共享的传统，让人们与亲朋好友分享信息与乐趣，而且人们确实乐在其中。对此《数字劳工》的作者们指出，大多数由商业巨头运营的互联网服务根本不是提倡分享的“礼品经济”：人们并非赠送彼此有益的礼品，而是争先恐后地制造垃圾信息，只有资本家在从中获益；而以Wikipedia为代表的少数确实秉承着“礼品经济”精神的服务却被整个互联网生态边缘化了。正如齐泽克所说，大多数人被意识形态灌输后真心相信自己喜欢（或者离不开）这些软件。但如果退后一步看看微信朋友圈里传播的那些内容，你真的会说它们是给人带来快乐的礼品吗？
与之类似，网游、页游吸引着众多年轻的农民和工人。据新浪游戏调查，不少富士康工人把大半休息时间花在游戏上，因为这是他们“所能找到的最省钱的娱乐方式”。他们“日复一日地玩着游戏并不是因为它多有趣，而是单纯的‘不知道还能干嘛’”。以富士康为代表的现代工厂在每天超过十小时的工作时间中占有工人的劳动与自由，随后互联网带来的成瘾性消费来榨干这些年轻人剩下的时间和仅有的余钱。整个体系严丝合缝，把这些工人变成了推动信息产业发展的奴工。
科技工作者如何探索替代方案
科技造成的这些问题不是能够用一个很简单的方式来解决的。我们不可能放弃科技进步退回到从前的时代。正因为这是一个复杂的、困难的问题，所以更需要我们这些掌握科技能力的人认真思考。
首先我们必须认识到：社会的发展是由人来决定的。人首先决定社会朝哪里发展，然后才决定用什么样的科技去支撑这个目标。从这个角度来说，认为科技本身有一个必然的发展方向，这样的想法是不成熟的。举例来说，科技可以让出租车司机收入越来越低，工作时间越来越长，越来越无力与公司抗争。但是科技也可以让出租车司机获得体面的收入，与乘客形成良好的互助合作关系，关心环保问题。
那么为什么我们感觉，科技好像只能朝一个方向去发展人类社会呢？因为那个方向是对资本家有利的。资本家用他们控制的媒体来宣传那个方向，压制别的方向，使我们无法知道有别的方向存在。人类社会发展的可能性有很多很多，我们需要去了解这些可能性，然后主动选择一个对人类有利的可能性，而不是茫茫然地发展到对资本家有利的方向上，然后还以为这是“科技想要的”。
例如一种可能性：平台合作主义。基于合作社的传统，互联网合作平台采用与分享经济平台相似的技术实现赛博中介，但遵循不同的所有制模式（劳动者共同拥有）和不同的治理结构（民主治理），并把尊重互利置于比利润最大化更高的地位。例如丹佛的GreenTaxi采用这种模式运作，目前是当地的第三大出租车公司。在更大的范围，蒙德拉贡（西班牙第七大雇主）等合作社在探索经济模式上的可行性，BackFeed等技术框架则在探索技术上的可能性。
另一个重要的问题是智能技术的可追责性（accountability）。正如Harpin所说，在社会越来越多地由算法运转的同时，机器学习等智能技术使支撑社会运转的算法变得越来越不透明。MIT的两位研究者指出，智能算法可能在人无法理解的情况下强化结构性歧视、拒绝为某些人群服务、甚至破坏民主制度的根基。
因此他们提出了算法可追责性的五项指导原则：算法应该负责任、可解释、精确、可审查、公平。围绕着这五项指导原则，他们又提出了更加具体的实施策略，建议至少在系统设计、上线前和上线后分别进行一次评估，并列举了一些基本的评估问题。
甚至在宏观经济层面，科技很可能会起到一些关键的影响作用。马云在最近的一次公开演讲中谈到市场经济与计划经济的比较：“我们过去的一百多年来一直觉得市场经济非常之好，我个人看法未来三十年会发生很大的变化，计划经济将会越来越大。为什么？
因为数据的获取，我们对一个国家市场这只无形的手有可能被我们发现。”这听起来是一个相当大胆、甚至有科幻感的设想：如果能用深入基层的信息终端采集生产和消费数据，用全国连通的网络汇总经济数据，用数据分析软件识别和预测经济异常波动，在国家经济尺度上实时统筹和调整计划，那么近百年来计划经济面临的最大挑战“经济计算问题”有可能得到彻底解决，从而使计划经济有可能成为一种可行的、甚至更优于市场经济的方案。
然而更显科幻的是，早在近半个世纪前的1970年代初期，在南美的智利，这样一个意在掌控全国经济的“大数据”系统已经被设计并实现出来了。这个叫做“Cybersyn”的系统，目的就是用类似于大数据和互联网的技术来指导国家经济建设，提高人民生活水平，缩小贫富差距。
Cybersyn的故事告诉我们：技术是由社会和政治的背景驱动的。社会朝哪里演化，不是一个技术的问题，这从来都是一个政治问题。然而我们今天面临的一个挑战是，人文社会科学领域的学者普遍缺乏科技尤其是信息技术的能力，所以他们无法有效地对科技的发展提出批判。所以我们这些程序员，作为极其稀少的具备这种能力的人群，我们是有责任对科技的发展方向提出疑问和批判的。
参考资料
本文中提及的内容主要出自我的以下几篇文章：
《警惕分享经济的暗面》，精简版以《发展分享经济 需防范潜在风险》为题发表于《经济日报》。
《分享经济与赛博中介》，我在2016年首届“网络社会年会”上的演讲稿。
《程序员统治的黑暗世界》，我在2016年TEDxTencent的演讲稿。
《智能技术的伦理风险》，以《智能技术之患：机器与人的战争，还是人与人的战争？》为题发表于土逗公社发表。
《数字时代的劳动与剥削》，对《Digital Labor》的书评，发表于《中华读书报》2015年5月13日号。
《被信息塑造的新工人阶级》，对《信息时代的世界工厂》的书评，发表于《中华读书报》2015年6月17日号。
文中关于“i奴”的洞见来自邱林川《Goodbye iSlave》一书。
腾讯科技入围知乎盐Club荣誉会员评选
点击“阅读原文”
为我投票吧
↓
