【造访谈】车品觉：五年后我们会面对人与AI的伦理博弈

五年前，我们还只是刚开始探讨，如果每个人的口袋里都能有一台“电脑”的话，这个世界将变成怎样？今天，智能手机已经成为我们的器官。

五年前，我们也没有预料到可以用手机便捷地打车、打船、“打自行车”，也没有想到可以用手机应用便捷地叫外卖，扫二维码取代钱包。

五年前，大家还在大谈特谈社交网络，“虚拟现实”这个词还只在科幻小说里出现。

那五年后的未来，还将有哪些产业将会产生意想不到的变化？这对我们的生活意味着什么？

在本文中，前阿里巴巴数据委员会会长、红杉中国专家合伙人车品觉将从他的专业角度来为大家设想一下五年后的未来。

车品觉：过去是数据集中在行业内的应用。渐渐的，我们把零散应用加在了集中应用上，从单一到互动，从而产生了更多的数据循环。数据将从低频到高频，人和机器的互动会增强，这是用（数据）和养（数据）的关系。

举例来说，从前我们只知道路上会有多少车流、多少人流，但有了类似滴滴这种应用后，我们不但可以知道人流量、车流量；我们还可以知道他们是什么类型的人，要到哪里去。这就会产生新的应用。

也就是说，从前的大数据行业是先有应用，再有数据；未来的行业则是产生了数据后，根据数据产生更多的应用。

我们还是在高估技术的短期影响，而低估了它长期的影响。现在见到在企业中的人工智能应用，影响到的还是很微细的点。五年后，我们会看到人工智能和传统企业的业务产生结合或者对接，人工智能会比人类操作“养”出更多的数据。

另一方面，大数据可以让我们挖掘出很多以往没有的资源，每次的数据在达到一个量级后，就会出现一些新的可能性。会产生全新的应用、全新的解决方式，比如基因测序带来癌症治疗的新方式。

人工智能和大数据像互为助力的两个轮子，结合起来会跑得比现有的法律法规更快。我们会碰到一个新的问题：人和机器利益点的博弈，也即我们所说的伦理思考。

五年后，人类会慢慢发现两者之间的博弈，我们要开始学习和人工智能、大数据共存。这是人类从前从未面临过的、前所未有的问题。

车品觉：不要只看科技的发展，还要看它带来的挑战。人类不能和一个比自己高的东西来打，他会觉得这不是地球上该有的一个生态平衡。比如阿法狗（AlphaGo）对弈人类的棋手。

第一，面对技术的发展，人类要考虑到底是要压制还是鼓励，这是机会与风险的衡量。所以，在未来五年，我认为AI（人工智能）、大数据、法律、伦理之间会相互产生碰撞，出现很多边界上的问题。

在这之中，AI会和大数据的发展形成合力，让AI找到新的应用，让小部分人开始影响大部分人。而当大部分人受到影响时，法律和伦理的发展却会延缓AI和大数据的发展速度，因为法律、法规需要去保护那些在毫无准备中被新技术影响的人。

一个最简单的例子，如果我们很早就说明哪些数据不能存储，也许我们就会压制了如今大数据行业的研究进展，但也有可能减慢了隐私数据泄漏的风险。

第二个有可能的风险是，企业有垄断法，而未来的数据会不会有垄断法？我们今天连数据的拥有权都没有想清楚，更不会想到有垄断。但数据垄断是比企业垄断更可怕的事情，对于创新的压制，对于不平等的加剧都会产生深远影响。

车品觉：第一，五年后对人类影响最大的肯定是各种形态的机器人。各种智能硬件与开源数据库连接，越来越多的企业之间会由无数的数据来连接。他们不再是用语言沟通，而是用大量的数据去交互。

第二个技术会是VR。VR极大影响人类和机器的界面，因为VR我们不再会基于现在的物理环境进行交互，我们的社会会产生非常大的变化。数据将像电一样，永远不能停止，而服务器和网络骨干会因此产生非常大的压力。

车品觉：我们对数据的争议会越来越大。但大数据和AI的发展，不会因为人类的争议而停止进化，适用于AI的场景会越来越多。

人要越来越习惯和AI共存。这会是一种新的社会形态或者需要我们现在就开始思考的问题。

对一个普通人来说，你要慢慢开始认知自己作为个体的风险点在哪里。你要知道，使用这个应用，最终会面临什么？

比如说，我们都推荐精准的算法。但我在阿里做过一个“让广告商找到最好的广告方式”的项目，在其中我们发现：次一等的、差一点的广告，再也没有人要。

举个例子，假如你要去买猪肉，精准的算法告诉你这里的猪腱肉是最好的，所有的顾客都来买猪腱肉。虽然我的名气因为推荐大大增加，但我摊位上的其他猪的部位就卖不掉了，同时我的猪腱肉也完全满足不了需求。

这等于虽然名气和爆款都有了，但我却失去了利润和规模。

俗话说“水至清则无鱼”，非常精准的算法会令资源和配置出现很大的失衡。如果是人来操作，这些资源很可能足够平均分配，因为人有一定的出错几率。但如果是使用机器，这些资源可能根本无法支撑精准算法带来的新世界，比如人健康长寿后，也许生存资源就无法满足了。

另外，精准化的结果往往会让创新减少，资源趋向匮乏。在大数据技术刚刚大规模应用时，不少专业人士说，大数据只讲相关性，而不讲因果。到了今天我会发现，现在在行业发展过程中出现的问题是因为只讲相关，而不讲因果。

比如人类大量使用了AI，是不是他独立处理问题的能力会渐渐变弱了？

车品觉：在我所研究的大数据领域，我觉得中国最需要解决的问题是，如何让数据能流通。

大量不同行业之间的数据互通，是目前法律、法规还未给予的权利。这极大压制了大数据的应用，也令数据黑市形成并壮大。我觉得政府需要合理地做实验。

五年里会有越来越多的数据让我们很难判断，是否用得合情合理。所以有序地开放部分，让人们去做实验，让它暴露出问题，才能让我们判断该如何管理。

现在大数据的研究在全世界存在一个问题：让人很难决定某项研究到底该做还是不该做，使用这些数据的风险在哪里？

离开阿里之后，我想去看更多的数据在地方、在更个体化的起因中会怎样流通、使用。

车品觉：大数据并非根据个体数据一看就能“定生死”，只有数据越多，得出的结果准确率才能越高。它不是个体化“算命”。

大数据最容易变现的应用是广告领域，只要数据量增加，精准度就会提升。万一精准度不足，对你的影响也很低。只有不断地在使用中修正参数，我们才能不断解决最大近似值。

类似罕见病的治疗方式，因为没有足够多的数据以研究不同治疗方式的影响，你以为你拿到的数据准确度很高，但实际不然。一旦出错，很可能就会出现致命的结果，大数据也无法在累积中进步。

所以，大数据在结果非常重要的、但可参考个例很少的决策环境中没有什么用。

车品觉：我对未来肯定是乐观的。人类一直是通过不断寻找新大陆，来获得文明的延续和发展，哥伦布在寻找新大陆之前，很多人失败过，但最后总会有人成功。

对于未来，我持相信但不盲目的态度。但我有一个担心，对于人类来说，预知一切就会快乐吗？比如算命先生告诉你，虽然你看起来很健康，但你还有十年命。你会怎样？

人工智能会尽其所能地告诉你一切，人类在未来五年能否适应这一点？给人类更多的确定性，对他的幸福感提升是否有帮助？还是让他感觉到这个世界变得更糟？

对人类来说，我最担心的是，比如算命告诉你，你只有三年命，你应该为此预测觉得开心还是不开心。五年中最大的风险和机会都在这里。

朱春光 | 这群德国的幼儿园小朋友竟然自己拍了一部电影……

谈婧 | 为什么Uber能让你心甘情愿当个老司机？

安德雷斯·韦思岸 | 接受现实吧，我们终将没有隐私

董飞 | 未来每个人的教育都是AI设定的

陈华伟 | 拿什么拯救你，我的时间？

陆铭 | 上海的经济正在“香港化” 

叶敏 | 把自然装进建筑，让空间流动起来

刘康平 | 为什么我们每个人都应该学习计算思维？

点击标题 查看往期回顾