专栏名称: 群学书院
群学书院由南京大学学者举办。秉承百年学府悠远文脉,依托全球领域智库资源,定期举办各类专业课程、沙龙、研讨、参访。传播多元文化,共铸人生理想,为创造健康社会不断前行。总部地址:南京中山陵永慕庐。
目录
相关文章推荐
审计芸  ·  春节福利!2025年度公众号订阅限时优惠 ·  3 天前  
三表龙门阵  ·  大S:智者终入爱河 ·  3 天前  
文明贵州  ·  “年味”年俗丨正月初五 ·  4 天前  
文明贵州  ·  “年味”年俗丨正月初五 ·  4 天前  
51好读  ›  专栏  ›  群学书院

遭受网暴一年后,首富钟睒睒火力全开,炮轰“算法”:很多恶是人为的……

群学书院  · 公众号  · 自媒体  · 2024-12-17 08:15

正文



在一个由科技驱动着一切向前推进的时代,几乎所有人都忙于发掘科技带来的红利,对技术进行反思,多少会被视为一种无病呻吟的“矫情”。


谁都没有想到,带着公众本着人文精神对技术进行一场思想启蒙的,不是一位学者,而是数度登顶中国首富宝座的企业家——钟睒睒



近一年以来,钟睒睒本人以及农夫山泉,多次成为网络争议的焦点。从产品定价到环保议题,不仅农夫山泉的股价应声滑落,钟睒睒个人也遭受了前所未有的网络暴力。他说,这些争议背后都隐藏着算法推动的舆论失衡


11月下旬,一向低调的前首富钟睒睒在一场媒体活动中罕见地公开发声,被形容为“火力全开”,“炮轰”算法,让我们开始反思算法在现代社会中的角色。


有人利用了算法,屏蔽了很多角度来的消息,制造单一叙事和恶意对立。因为你打开就是这样。很多恶是人为造成的,尤其是利用科学、科技手段、技术能力,那造成的恶,比普通人造成的恶要大。

“他们用算法放大情绪,把复杂的问题简单化,把不同的声音屏蔽掉。”这种行为不仅破坏了公平的舆论环境,也让公众陷入片面认知,而受害者往往都是底层民众。

从这个社会热点切入,我们再次向你强烈推荐历史学家尤瓦尔·赫拉利的新书——《智人之上》

《智人之上》
点击图片,即可下单


我们现在所讨论的这一切,其实他在这本书中都进行了极为深刻的思考。

他以历史学家的洞见提醒我们,人类已经到了一个历史转折点:当下历史的重大进程,有一部分是由非人类智能的决定推动的。

当我们谈论科技乃至人工智能亦或是机器人对人类的威胁时,早就不是遥不可及的科幻电影中才会出现的娱乐情节,而是触手可及的现实,计算机网络的易错性正在变得越来越危险。虽然计算机犯错原本不算什么,但当计算机成了历史推动者时,这些错误就可能带来灾难。

以算法为例,它早就已经开始默默参与甚至改写人类历史了……




很多恶是人为的……

来源 | 中信出版



当算法按下人类仇恨的按钮

《智人之上》里,尤瓦尔·赫拉利举过这样一个案例。

2016—2017年,缅甸政府军与极端分子发动过一场针对缅甸罗兴亚人的种族清洗,杀害了7000-25000名罗兴亚人。事后联合国调查团的结论认为,通过散布充满仇恨的内容,脸书在这场冲突中扮演了“决定性的角色”。

《智人之上》
点击图片,即可下单

你可能会觉得,把这么多责任都归咎于脸书算法,或者更广泛地说,归咎于新的社交媒体技术,真的合理吗?如果有人用印刷机来散播仇恨言论,难道该怪谷登堡和印刷机吗?

在争夺民众注意力的网络大战中,算法成了决定胜负的因素。

算法能够选择让哪些内容出现在用户动态消息的顶端、推广哪些内容,以及推荐用户加入哪些脸书社团。算法本来可以选择推荐慈悲的布道或者烹饪课程,但最后却决定散播充满仇恨的阴谋论。

这些自上而下的推荐就可以大大左右民众的想法。

但是为什么算法决定助长的是愤怒而不是慈悲呢?就算是对脸书批评最严厉的人,也不会觉得脸书的人类管理者就是想煽动大屠杀。

尤瓦尔·赫拉利


脸书位于加州的那些高管非但对罗兴亚人并无恶意,甚至几乎不知道罗兴亚人的存在。事情的真相更为复杂,但可能也更令人震惊。

在2016—2017年,脸书的商业模式依赖于提升用户参与度,也就是用户在脸书上所花的时间与所做的活动(例如点赞、分享帖子给朋友)。只要用户参与度增加,脸书就能收集更多数据,卖出更多广告,在信息市场占据更大份额。

此外,提升用户参与度能给投资人留下好印象,从而有利于推高脸书股价。用户在脸书停留的时间越久,脸书就越有钱。根据这种商业模式,人类管理者给脸书算法定了一个首要目标:提升用户参与度。

随后,算法用几百万用户做实验,发现最能提升参与度的办法就是让人愤慨。比起慈悲的布道,充满仇恨的阴谋论更能提升人类的参与度。

所以,为了追求用户参与度,算法就做出了一个致命决定:传播愤怒。

算法创造出的“互联网喷子”

企业在要求算法提高用户参与度的时候,就开始了一个走向偏激与极端的过程,这种情况不仅发生在缅甸,而且发生在全世界。

例如,2012年,YouTube在全球的总观看时长约为每天1亿小时。但公司高层还不满足,于是给算法确立了一个充满野心的目标:到2016年,这一数据要达到每天10亿小时。

经过对数百万人的实验,不断试错,YouTube的算法发现了脸书的算法也掌握的那套模式:只要激起人们的怒火,就能提升参与度,而走中庸节制的路线则行不通。


于是,YouTube的算法开始向数百万观众推荐各种让人惊骇、愤慨的阴谋论,同时无视那些较为中庸、理性的内容。2016年,YouTube每天的总观看时长达到10亿小时。

那些想博人眼球的YouTube主播发现,如果发布满是谎言、让人愤慨的视频,会受到算法青睐,视频会被推荐给大量观众,于是自己的人气会飙升,收益也会增加。

相较之下,如果不刺激人们愤怒的情绪,坚持只谈事实,算法常常对他们的作品视而不见。经过几个月的强化学习,算法让许多YouTube主播都成了喷子。

当然,并不是YouTube的算法编造了谎言或阴谋论,或者创作了偏激、极端的内容。至少在2017—2018年,这些内容还是由人类创作的。

然而算法所做的,是鼓励人类往这个方向走,并且不断推荐这些内容,以最大限度地提升用户参与度。

算法之祸,谁之过?

脸书、YouTube、TikTok等平台的管理者为了找借口,常常会说这些问题不是算法带来的,而是源于人性。

他们表示,人性是各个平台上一切仇恨与谎言的源头。这些科技巨头认为,因为他们信守言论自由的价值观,所以审查人们表达真情实感真的很难。

人类是非常复杂的生物,良好社会秩序会培养人类的美德,同时减少人类的消极倾向。然而社交媒体算法只把人看成矿井,想要“开采”更多的注意力。

人类有丰富的情感,如爱、恨、愤慨、喜悦、困惑,但算法把一切简化成一件事——参与度。

就像种族冲突从来都不是单方的错,是许多方面都出了问题,有许多责任方必须共同承担。

有一点很清楚,对罗兴亚人的仇恨早在脸书出现在缅甸之前就已存在,而之所以会发生2016—2017年的暴行,最大的责任应落在相关的责任人身上。

收容罗兴亚人的孟加拉库图帕隆难民营


至于脸书的工程师与高管也该承担部分责任,他们写了算法的代码,赋予算法太多的权力,而没能对它们好好地管控。很重要的一点是,算法本身也逃不了干系。

通过反复实验,算法学到了愤怒会提升参与度,而且在没有上级明确指示的情况下,算法自己决定要助长愤怒。

这正是人工智能的典型特征──虽然它们是机器,但它们拥有自己学习与行动的能力。即使我们说这里算法只需要承担1%的责任,这也会是历史上第一个“部分归咎于非人类智能决策”的种族冲突事件。而且这不会是最后一次。

现在,算法已经不局限于在有血有肉的极端分子创造出假新闻与阴谋论之后,再加以推送传播,在21世纪20年代初,算法已经能够自行制造假新闻与阴谋论。


之所以有必要了解这一点,是因为目前的情况还在人类的掌控之中。虽然不知道还能持续多久,但目前人类仍有能力左右这些新的现实。

为了能做出明智的决定,我们需要了解目前正在发生的事情。我们在编写计算机代码的时候,绝不只是在设计一个产品,而是在重新设计人类的政治、社会与文化,所以我们最好对政治、社会与文化都有一定的了解。

而且我们做的决定,最后也必须由我们来负责。

我们已经到了一个历史转折点:当下历史的重大进程,有一部分是由非人类智能的决定推动的。正因如此,计算机网络的易错性才变得如此危险。

计算机犯错原本不算什么,但当计算机成了历史推动者时,这些错误就可能带来灾难。


尤瓦尔·赫拉利系列作品
《智人之上》
点击图片,即可下单

《人类简史》三部曲
10周年纪念版
点击图片,即可下单

《人类简史》知识漫画
点击图片,即可下单



THE END






文化名人纪念演讲

梁漱溟先生逝世三十周年纪念讲座 | 梁漱溟文化思想 | 叶圣陶孙女回忆叶氏文脉 | 柳诒徵先生纪念讲座 | 陈寅恪先生诞辰一百三十周年纪念讲座 | 陈作霖先生逝世一百周年纪念讲座 | 作家张爱玲诞辰一百周年纪念讲座 | 林散之、高二适先生纪念讲座 | 钱穆先生逝世三十周年纪念讲座 | 阮玲玉诞辰一百一十周年纪念讲座 | 上官云珠、周璇诞辰一百周年纪念讲座 | 谭延闿逝世九十周年讲座 | 孙中山先生逝世九十五周年纪念论坛 | 王阳明逝世四百九十周年纪念论坛 



文化名家系列讲座

莫砺锋:开山大师兄 | 周文重:国际关系新格局 | 周晓虹:口述历史与生命历程 | 周晓虹:费孝通江村调查与社会科学中国化 | 周晓虹对话钱锁桥 | 周晓虹、张新木、刘成富、蓝江对谈:消费社会的秘密 | 群学君对话舒国治 群学君对话叶兆言 | 黄德海、李宏伟、王晴飞、王苏辛、黄孝阳五作家对话 | 孙中兴:什么是理想的爱情 | 杜春媚对话郭海平 | 程章灿:作为诗人与文学史家的胡小石 | 谷岳:我的行走之旅 | 黄盈盈:中国人的性、爱、情 金光亿:人类学与文化遗产 | 周志文:人间的孔子 | 严晓星:漫谈金庸 | 周琦:越南法式风情建筑 | 魏定熙:北京大学与现代中国 | 胡翼青:大数据与人类未来 | 生命科学与人类健康系列高峰论坛 | 毕淑敏读者见面会 | 徐新对话刘成 | 谢宇教授系列演讲 | 王思明:茶叶—中国与世界 | 祁智对话苏芃:关于写作 | 甘满堂:闽台庙会中的傩舞阵头 | 张静:研究思维的逻辑 翟学伟:差序格局——贡献、局限与新发展 应星:社会学想象力与历史研究 | 吴愈晓:为什么教育竞争愈演愈烈?李仁渊:《晚清新媒体与知识人》 | 叶檀读者见面会 | 冯亦同:金陵之美的五个元素 | 华生、王学勤、周晓虹、徐康宁、樊和平对话 | 



城市文化与人文美学


东方人文美学深度研修班(第一期)| 东方人文美学深度研修班(第二期)大唐风物,侘寂之美:日本美术馆与博物馆之旅(第一期)| 大唐国宝、千年风物:日本美术馆与博物馆之旅(第二期)| 当颜真卿遇上宫崎骏:日本美术馆与博物馆之旅(第三期)| 史上最大正仓院与法隆寺宝物展:日本美术馆与博物馆之旅 |  梦回大唐艺术珍品观展会 | 四姝昆曲雅集:罗拉拉、单雯、孙芸、陈薇亦 | 昱德堂藏扬州八怪精品展 | 《南京城市史》系列人文行走活动 | 《格致南京》系列文化活动 文心雅韵:中国传统人文美学系列讲演 | “文学写作与美好城市”高峰论坛 | 仰之弥高:二十世纪中国画大家展 | 首届微城市文化论坛 | 南京城市文化深度行走(第一期:南京运渎)南京城市文化深度行走(第二期:明孝陵)南京城市文化深度行走(第三期:文旅融合)| 南京城市文化深度行走(第四期:城南旧事)| 南京城市文化深度行走(第五期:灵谷深松)南京城市文化深度行走(第六期:清凉山到石头城)南京城市文化深度行走(第七期:从白马公园到明孝陵)南京城市文化深度行走(第八期:从玄武门到台城) | 南京城市文化深度行走(第九期:从金粟庵到大报恩寺)| 南京城市文化深度行走(第十期:从夫子庙到科举博物馆) | 南京城市文化深度行走(第十一期:从五马渡到达摩洞) | 南京城市文化深度行走(第十二期:从狮子山到扬子饭店)| 南京城市文化深度行走(第十三期:从南朝石刻到栖霞寺) | 南京城市文化深度行走(第十四期:牛年探春牛首山) | 南京城市文化深度行走(第十五期:中山陵经典纪念建筑) | 从南京到世界:第一届微城市论坛 | 园林版昆曲舞蹈剧场《镜花缘记》秋栖霞文学日系列活动 | 





请到「今天看啥」查看全文