专栏名称: 大数据文摘

普及数据思维，传播数据文化

经济学家何帆、洪灏对话：我们有可能对抗算法的偏见吗？

大数据文摘 · 公众号 · 大数据 · 2025-01-22 18:00

正文

大数据文摘受权转载自中信出版

拥有讲故事的能力，让人类与其他物种产生了最关键的差异，也是推动人类社会发展的重要动力。而在当下身处人工智能时代，我们感受到人工智能给人类社会带来的各方面便利的同时，也在被其深深影响着。

或许你已经在担心是否有一天工作会被AI取代，人与人的关系会发生质的改变，未来的生活是否会远远超出想象。随着人工智能对我们的价值衡量标准、个人偏好等各方面产生影响时，所有的担心似乎都有迹可循。

历史学家尤瓦尔·赫拉利在他的新书《智人之上》中谈到了人工智能时代，新型信息网络之下的我们所遇到的挑战。

他在书里写到：

“如今的信息技术已经变得如此强大，却可能把人类封闭在一个又一个的信息茧里，使人类走向分裂，不再拥有单一的共同现实。过去谈到人类社会，我们通常觉得是如‘网络’一般，但未来可能就成了‘茧’的时代。”

《智人之上》

点击图片，即可下单

▽

在2025年新年之际，中信出版集团联合华尔街见闻特邀《变量》作者、上海交通大学经济学教授何帆与思睿集团首席经济学家洪灝，结合尤瓦尔·赫拉利新书《智人之上》，讨论我们如何更好理解人的价值与意义，如何应对时代的不确定性。

下文为本次对谈的精华内容摘录。

01 技术是否会成为人类的终结者？

何帆：尤瓦尔·赫拉利的新书《智人之上》谈到许多热点问题，比如人工智能、全球治理、国际政治。今天我们将以这本书为起点进行探讨。首先请洪灝谈谈看完这本书之后的总体感受。

洪灝：我阅读下来的总体感觉是尤瓦尔·赫拉利对于人工智能发展的未来是比较悲观的。至少根据现在科技发展的速度和现状、我们如何运用科技等方面，我感觉到他对于科技发展的未来还是比较悲观的。

他在书中举例到，我们共识地认为每一次科技的进步就会有一个新的生产力的提高，但他认为并不是这样。比如印刷术的技术提高，结果印出来的效果最多也只是升级。赫拉利认为人类社会的发展总体来说主要是依靠讲故事。他觉得AI的发展速度非常快，然而我们在发展科技的同时并没有投入资源去做科技发展方向的监管，因此他认为的这个技术很可能会被误用。

何帆：赫拉利认为这个技术其实跟原来的技术非常的不一样，这个技术影响力会更大，有破坏力。而他谈到未来AI世界时感觉有点让人感觉在读科幻小说，会让你觉得毛骨悚然。那么你对技术发展会是一个比较悲观还是比较乐观的态度？

洪灝：暂时我们还是技术的受益者。从AI到比如现在火热讨论的Chat GPT，大家广泛使用差不多有两年左右的时间。这两年里我们在使用这个技术的过程中的确省了很多时间。比如你要快速学习，有很多内容是可以让AI帮助你提炼、总结的。而且对于一些不理解的地方，你还可以向它提问。

洪灝

我用过几个不同的AI引擎，能感觉到它们对于信息的组织、搜索、整理，还有组织语言的能力已经远远超过了一个刚从业不久的研究助理。这个情况还是非常惊人的。

何帆：所以这是个好事。你在使用的过程中有感觉到已经对你带来、或者你能设想到未来会对你带来什么不利的影响吗？比如会颠覆金融行业里的哪些工作或者是你现在正在做的工作中的哪些部分？

洪灝：我相信基础的研究基本上就可以用AI来代替。

何帆：那还是一个赋能的作用，就是说会让研究做得更容易，研究人员的力量会变得更强大。

洪灝：是的，我觉得AI现在已经在改变金融界。我们都知道有一些经营管理公司已经开发了AI的模型机器人，尤其是短期的交易。因为我是做宏观研究的，宏观研究有的时候看得比较长，比如说3年、5年，甚至更长时间。但是3年、5年这么一段时间你并不一定能够生存下来，短期的波动可以让你爆仓，可以导致投资者赎回，也导致很多意想不到的事情发生，比如你的预设可能正确的，你的方向正确的，但是没有活过这三年。

其实人工智能让我们这个行业发生很大的改变。在短期交易的时候，我们往往寻找市场各种各样的因子。比如我们数据库里有几百甚至上千个因子，每天不断地回归分析，看哪个因子对于短期的回报和波动的决定性最强，然后根据这种相关性去做投资的决策。如果用人脑，传统来说就是用人的眼睛、大脑去分析，他的能量所限，他的容量所限。

何帆：那你在阅读这本书的时候有什么地方你会觉得不同意，或者你会觉得不舒服的地方？

洪灝：因为作者是一个悲观主义者，所以他认为最终如果没有合理控制技术的话，那么它可能会变成我们人类的终结者。我其实没有那么悲观，或者说我并不认为这个问题是不能够解决的。简单地说，我们现在投入AI开发的资源很多，但是监管资源非常少。

何帆：那你的乐观是从哪里来呢？是因为早晚我们会被迫需要投入更多的人力和财力？

洪灝：我认为是这样，否则的话就是不可持续的。所以我认为这个问题还是有解的，它并不是无解。

何帆：那接下来我也简单跟各位分享一下，这本书谈到的一些主要内容。

我们都知道赫拉利一直在写畅销书，从《人类简史》到《今日简史》。他的核心观点就是讲故事是很重要的，人其实特别擅长讲故事的。我们一直觉得人类社会是进步的，明天会比今天更好，但其实是不一定的。当我们进入农业社会的时候其实就比原来过得要惨。因为你以前在狩猎和采集的时候吃得更好，个子长得更高，工作时间还少，更加悠闲。进入到农业社会之后，不断有故事一环套一环地出现，市场的故事、国家的故事、民族的故事、文化的故事等等。

何帆

在赫拉利这本新书《智人之上》的第一部分，他还是在谈故事的逻辑，更准确地说，他在谈信息。过去我们都认为信息是为了求得真理和真相，但他说其实不是这样的，信息还有一个很重要的功能就是要去讲故事，去重构一个现实，然后再把这些相关联的人构建成一个网络。但现在出来了一个新型的而且力量特别强大的技术——人工智能。其实从计算机到互联网，再到人工智能，这些都是关联在一起的。

这些技术出来之后会改变原来的信息格局。赫拉利在书里谈到，原来的信息格局主要是人和人之间的互相连接。人在信息的传递过程中起到中介的作用。但现在机器之间可以互相对话，有时候人无法理解机器在交流什么，因为它们用的语言跟我们的完全不一样。而且机器还不需要休息，思维方式不一样，整体更加强大。

《智人之上》里就举了这样一个例子，有一个研究人员让机器去玩类似赛车的赛船游戏，给机器的指示是分数最高你就赢得比赛。按道理说，赛船和赛车一样，参赛者就是和别的船赛速度，看谁跑得快。但是研究人员发现，机器在玩这个游戏的时候，不和别的船比赛，而是在码头进进出出。这时候研究人员发现了这个游戏中的漏洞。因为按照比赛的规则，参赛者只要靠近码头，就算加分。机器因此分析出：为了获得更高的分数，根本不需要和别的船比赛，只要在码头进进出出总分就会更高。

从这个例子里，我们就看到一个对齐的问题。也就是说，如果你想的和机器想的不一样，那当你让机器去执行一件事的时候，它并没有按照你预设的方式去执行，你发现这不是你想要的结果，但是机器已经带来了破坏。

在《智人之上》中赫拉利就说到这样一个例子。哲学家尼克·波斯特洛姆曾经提出一个关于回形针的思想实验。当你要去做回形针，你的目标就是做回形针。但是如果你给机器下达这个指令，它可能会想到如果让人类灭绝，那资源就会更多，回形针就会做得更好。也就是说你无法预测机器的思维方式和解决问题的方式会和人有哪些不一样，这其中可能会失控。

在这本书的第三部分，赫拉利讲到人工智能最后要落到治理的问题。治理的问题就包括一个层面是当你有了数据和AI以后，AI会来“管理“你，比如照顾你的医疗，你的信息要不要给它？如果你的信息不给它，你会失去一些收益，失去一些效率。比如你的健康数据给了人工智能，它会帮你制定出来更好的健康管理的方法。

洪灝：但它也可以灭人。

何帆：对，但是它问题就在这，它也可能会灭了你，或者它也可能会以一种你没办法跟它讲理的方式来操作。

《智人之上》就讲到了一个金融行业的例子：未来当你要去申请一个信用卡时候，你就有一个信用评分。你去找到这个银行，银行说我们按照算法把你的分数给扣了，你都不知道扣分原因是什么。最后银行反馈说其中有一条规则是你手机的电量，你经常让手机的电量处在25%以下，然后扣你的分。你会觉得这个跟我的信用有什么关系。银行说因为我们用大数据发现了一个规律：凡是那些让自己的手机充电量总是小25%的人的违约率会高。这个其实就没办法讲道理了。

洪灝：这是存在另外的逻辑。因为电池它的充电是有次数的，虽然说现在锂电池都没有记忆的，其实还是有的，你会发现你的电池越充越用，实际上对于它的电量留存影响越来越大。

何帆：对，这是一种解释。那另外一种解释，比如说可能是因为你不够谨慎。如果你是比较谨慎的，比如像我这种特别风险回避型的，我的手机电量只要小于50%，就要马上找充电宝。那它这个逻辑可能是有道理。但实际上我们不知道它的逻辑是啥，也就没有办法去跟它去辩论。

这本书最后谈到的部分对我们理解未来的世界也非常有用。它说各个国家之间对AI的治理可能走的路线会不一样，方法不一样。过去丘吉尔讲的“铁幕”，赫拉利说这在中间隔着的是“硅幕”。因为关于数据治理大家的思路不一样，所以就更难互相交流，因此会带来问题。

洪灝：但是我也不觉得东西方在这个思路上会有很大的差别。像您刚才举的例子就是说这些算法产生了自己的思想，有自己的标准，所以必然产生你意想不到的结果。

我们用脸书举个例子吧。本来算法希望提升用户反应和参与度，让大家更愿意看到你发的东西，甚至能够互动一下，比如点赞、留言、转发。后来算法发现最能导致用户反映的是各种负面的内容。当这样的内容出现时，流量就上涨特别快。渐渐你就会看到网络上一段时间里充斥着负面的社会新闻，而有一些真正值得大家关注的东西，由于算法没有推送就被忽略掉。

何帆：所以回到你刚刚的观点，你的想法是不管是美国还是中国，最后其实遇到的问题都是一样。

洪灝：因为人类所面对的对手是一样的。

02 工作真的会被人工智能代替吗？

何帆：在《智人之上》中谈到了很多问题对我们每个人都可能会有影响，无论我们是否同意。比如人工智能更广义的说法“自动化”，它对我们未来的工作、未来的职业会带来影响。我觉得这个可能也是从普通人的角度，我们一想到人工智能最焦虑、最关心的问题。

洪灝：我觉得当AI机器人帮助了我们做一些低附加值的东西，它让我们有时间、精力去做一些更高级的、更高附加值的、更有意义的东西。所以从这个角度来说它并不是一个坏的发展。就像我们刚才说的，现在的AI大概就是第一年、第二年的研究助理水平，但是它再往高一层次去走的话，尤其是它不仅仅能够看到事物之间的联系，而且它能够用叙事的方法来讲出来，提供一个不一样的角度，这就是有经验的。

何帆：你刚才谈到，你所感受到的是人工智能其实能够很好地替代刚刚入门一年、两年的研究助理。换一个角度来讲，你有没有觉得人工智能其实现在它有点让强者更强的效果？也就是马太效应，比如我在行业里面有经验，那我可能用起来会让我更加的强大。

洪灝：有可能，但是这就没法具体比较了，我只能够跟以前没有AI的我来比较。我现在觉得的确很强，因为它的研究和整理信息的能力非常强，而且不需要休息。但是你要掌握跟它对话的技巧，掌握一些关键的词语，需要把自己的要求特别清晰去描述给它。

何帆：如果从这个角度来讲，你比那个年轻的研究助理更容易去驯化AI。因为你能看得出来AI反馈的内容质量。比如你让AI写一篇论文摘要，助理可能看不出来这个摘要的质量好坏，但是你可能一眼就看出来写的好的地方和不好的地方。所以你驯化之后你的工具就会更好用。因此它还是在为强者、能力最强的人去赋能，这个差距你会不会担心最后会越来越大？你现在已经是一个资深的研究者了，那如果是刚刚毕业的学生是不是就没有机会了呢？

洪灝：这个就是积累了。

何帆：但我都没办法进到这个赛道里面。

洪灝：所以这就很好的解释就是今年没人报考金融与贸易专业了，大家都要去学人工智能。在以前，如果你把一个活儿给研究助理的时候，沟通过程是特别简易的。但现在就是你和机器之间的配合，你需要把这么多年积累下来的经验用几个关键词去向它提问。这个关系虽然很好地替代了研究助理，但是它也要求你作为一个资深的研究人员，你需要非常清晰的知道自己要什么。这个是它的优势。

我相信科技会进步的很快，在过去两年里，其实我们也发现，有的AI可以陪你聊天，甚至可以变成虚拟朋友，你会发现它的情商甚至可能会比你以前的真的朋友还要高。

何帆：我还要再追问一下，因为这个话题我一直在思考。最早的时候携程的梁建章跟我讲，他最担心AI对年轻人的影响是年轻人的第一份工作机会可能会消失。我就一直记着这个话。后来我发现他讲的还是蛮对的，不仅是研究助理，再比如说秘书的工作，整理一下老板的行程安排，做个会议纪要，这些全部都是AI马上上手就能够解决的内容。

推而广之，办公室里的很多工作最开始的时候都是这样的。站在年轻人的角度，他其实在上学的时候也没学到什么关于真实世界的知识，他就是靠第一份实习的工作，并且在这个过程中他得犯错误，得被领导骂，之后他才知道哪些是不对的。他在磕磕绊绊的过程中才能够成长起来。但现在这个中间环节突然没有了，就没有办法从0到1，那他怎么再从1到n？

洪灝：对于我们中国的职场来说，它可能是更关键的一个问题。因为中国的职场培养的就是高等教育的大学生。像您刚才所说的，学生在学校里面可能并没有学到真实生活里的东西，因此在毕业后他突然发现自己一无所长。而在海外的教育它有很多终极的技能型的教育，教给学生的是实际动手的技能。

目前AI落地还是通过比如人形机器人去表达，给它装个芯片，它可以做一些简单粗暴的交付。但是真正细致的东西，比如你让它做个表，它可能还不行。所以我觉得如果是比较基础的技能，像基本翻译、记笔记、订票，这些我相信基本上就可以消失了。但是硬的技能比如修水管，AI还没法办，它只能够提出提供一些软的情绪的价值。

何帆：所以我去年去学了一个电工证。回到我们的问题，比如现在有个学生正在学金融还没毕业，或者是准备高考的时候考虑要不要学金融、经济。那你考虑到AI对这个行业的影响，你会对他们有什么建议吗？怎么避免我们刚刚说的一毕业就可能找不到工作？

洪灝：金融行业肯定面临着一次非常大的洗牌，不仅仅是本来中国的金融行业的人太多了，一个中型券商研究机构就可能有四五百个人，你要用一个什么样的收入的结构去支持。

所以我觉得金融知识不是说不重要，而是当你拿它作为一个专业来学，会存在一定的局限。因为在你毕业出来会发现现实生活中就是加减乘除，顶多是取个对数。我觉得金融可以当作一个爱好来学，而不是当作一个专业来学。

何帆：那你会觉得掌握哪些技能对他们来讲可能更好？更不容易被AI替代，或者说更容易在AI时代活下去。

洪灝：我认为是需要动手的技能，需要物理世界里面的东西，而不是说一个虚拟的。

03 算法的偏见

藏在我们看不到的地方

何帆：这本书里讲到一个关于招聘的例子。亚马逊想用AI来辅助招聘工作，最后放弃了。因为他们发现招聘工作的算法会明显对女性有歧视。但逻辑其实是这样的，AI寻找过去几年在求职市场上的这些数据，然后它发现了一个规律，就是如果是女性求职者被拒的概率会更大。AI就做出判断，那肯定是她不行，所以都被拒绝掉了。它又在算法里调低对女性的评分。最后就是一个自我实现的预言了。这种情况其实非常多，我们都不知道是在哪些地方出现了偏见。

洪灝：对，或者说AI算法很容易犯一个我们人类犯的毛病，那就是把这个相关性当成了因果关系。当它看到这个东西是这么想的，那肯定是有问题的，如果是有问题的，就需要否决掉。但是事实上，中间的原因是更复杂、更深层次的，但是它就没办法理解。

所以我相信这也是我们人类最后的救赎，因为我们还是有差异性的思考。我们可以从不同的角度去考虑问题，并且同时具备这种鉴别因果性与相关性的能力。我相信AI可能有一天也会有，但是现在暂时来说，那还是依靠人们提供给它的数据去决策。既然提供的数据就是女性被拒的概率高，所以它产生的决策结果也就是这样子。

何帆：所以你其实讲的这个也是一个特别有意思的地方，而且也是一个我觉得值得接下来进一步去讨论的。是不是AI的这种智能，就是唯一的智能？AI现在就是机器学习，即投喂数据，然后进行自我强化，慢慢倒腾出来的一个过程。而且在这个过程中，它基本上需要依靠一个语言系统，它需要用语言来表达出每一步的思考路径。我们现在会看到有一些AI可以自己和自己对话，在自己一点点的摸索。

但你刚刚讲到一个很好的思路。其实我们人类会有一些东西，它不是完全靠一步一步这么推理出来的。比如我们可能会有同情心，我们可能会有慈悲心，你一下子就会打动人心，你一下子就会有这样的判断，你会有直觉，会有所谓的第六感。比如，其实我也没看到，但是我直觉我老公可能出轨了，而且大概率你可能猜的是对的。这个过程目前没有一个模型或者数据，这个过程也是智能的，但它没有办法被现在的人工智能直接学习。

洪灝：对，AI暂时还没有这方面的感知。

何帆：现在也有一些研究人工智能的科学家在专门研究这个。比如说我不用那么多的数据就能够把人类的直觉划到人工智能技术当中。

洪灝：对。就像自动驾驶相对几年前它已经进步了很多，但是它还是没有办法完全替代人类的价值。比如说以前的指令是我要以最快速度、最省油的方法从a到b，那机器就一路闯过去了，可能还撞死几个人。因为你给的评判标准是最省油、时间最快的，这个过程就不考虑别人。所以这中间考量的很多方面就是我们人的道德，而AI暂时是没有的。

何帆：人有善恶之心、道德感。其实我觉得自动驾驶是很难真正意义上实现的。我们举一个例子。你是一个行人走到路口，看到司机过来，你肯定会看一眼司机的状态。这个感知是人工智能没办法判断的。人工智能的感应器可以感知到，也可以人脸识别到，但是如何去解读是很难的事情。

洪灝：对的。所以我相信AI虽然有了很多进步，甚至在一些简单的工作上能够代替人类，但是它要完全地代替，尤其是代替了人的同理心、善恶之心，我觉得是暂时是没有到如此复杂的地步。所以这也是为什么我并没有像赫拉利这样悲观的原因。当然他是从信息传播的角度去谈，当你不断被推送一些虚假信息，你就会对一些信息产生错误的认知。

何帆：那就是人越来越走到一个信息茧房里去了，最后就作茧自缚了。

中信出版

尤瓦尔·赫拉利系列作品

《智人之上》

点击图片，即可下单

▽

黑色小圆动图分割线

GPU算力按需租用

A100/H100 GPU算力按需租用，

秒级计费，平均节省开支30%以上！

扫码了解详情☝

点「在看」的人都变好看了哦！