今天，你被算法算计了吗？

财联社AI daily · 公众号 · 互联网安全科技自媒体 · 2024-12-10 20:12

正文

编者按：
当今，在数智化浪潮中，算法已深入社会的各个角落，影响着人们生活的方方面面。结合此前四部委开展的网络平台算法典型问题治理专项行动，财联社与《科创板日报》今日推出“算法治理”专题特稿报道。
报道旨在从算法领域的现象与问题，从对策到长久解决之道，全面深入地剖析当前网络平台存在的算法乱象，期望能进一步引发各界对算法合理运用与有效治理的关注与思考，助力构建健康、有序、向善的网络生态环境。
本篇为“算法治理”特稿第一篇。

文|黄心怡

你以为是在自主选择，但实际被算法所主导。

很多人今天可能都有这样的感觉：当阅读某个文章后，App会不断推送相似的内容；当搜索过某个话题后，打开另一个App，也会看到与话题相关的信息自动推荐给你……

我们生活在一个前所未有的“算法时代”，在便利了工作和生活的同时，“信息茧房“的现象也随之出现。

算法让人们陷入了由数据编织的无形信息系统之中，商业化逐利的算法推送，导致人们获取的信息越来越单一化、同质化，这也为偏见的放大提供了土壤。人群被划分为不同的群体，也就是不同层级的“信息茧房”中，极端情况下相互之间观点对立、水火不容，导致社会的分裂和隔阂加剧。

▌警惕算法编织的信息茧房

需要指出的，计算机科学与信息技术发展带来的算法，很大程度上改善了我们的生活和工作。无论是在日常生活、工作劳动、信息获取还是休闲娱乐方面，算法都极大地提高了效率并带来了便利。

然而，算法在互联网世界中的无处不在，也可能引发一些问题。以“信息茧房”为例，这是美国学者凯斯·桑斯坦在2006年出版的《信息乌托邦》一书中提出的概念，指个体如果关注自我选择的或能够愉悦自身的内容，同时减少对其他信息的接触，时间一长，就会像蚕一样桎梏于自我编织的“茧房”之中。

以短视频平台为例，流量至上的内容推荐，导致平台为了追求流量和用户停留时间，算法会优先推荐那些容易吸引眼球、具有争议性或娱乐性强的内容，而这些内容往往质量参差不齐。另外，平台根据用户的浏览行为、点赞、评论等操作给用户打上兴趣标签，然后通过协同过滤算法推荐相似内容。但这可能导致用户只能看到自己感兴趣的内容类型，如喜欢美食视频的用户，平台就持续推送各种美食视频，使其错过其他领域的优质内容，视野逐渐变窄。

此外，算法在推荐时主要依据数据指标，如播放量、点赞数、评论数等，而对内容的真实性、专业性、客观性等质量因素缺乏深入评估。这就导致一些虚假信息、谣言、低质量甚至有害的内容也可能因数据表现好而被大量推荐，误导用户，影响网络环境的健康发展。

▌价格歧视与大数据 “杀熟”

中国社会科学院财经战略研究院研究员刘诚表示，当前信息茧房有两层含义：一是出自引流等目的，平台让用户看到其想看的信息。二是出于卖货等目的，让用户看到平台想让其看到的信息。这层含义里面注入了“平台意志”，是平台主动做出的信息设计。

从这两层含义的关系来看，前者是手段，为了投其所好，吸引用户、做大流量；后者是最终目的，把流量兑现为商品交易总额（GMV）。刘诚认为，平台作为一个个独立运行的企业，由于追求经济利润最大化。那么其经济影响是，平台可能会基于信息垄断对用户进行信息歧视。

“大数据杀熟”与价格歧视，正是常见的为追求利润最大化，而导致的算法变成了“算计”。在算法机制下，消费者在在购买商品或服务时面对不同的价格。同样的商品或服务，老用户的价格可能会比新用户更高。

不久前，京津冀三地的消协组织发布了大数据营销差异化现象调查结果，超过四成的消费者明确表示曾遭遇“大数据差异化营销”。调查中，对外卖类平台标价22元的糖烤板栗、米麻薯进行购买体验，结算价格出现了4元至22元的波动，价格差异超过售价的80%；结合短视频/直播平台11位消费者的亲身体验，对售价79元的苏泊尔1.7升全自动安全超大容量烧水壶电热水壶进行调查，结算价格呈现出49元至79元的波动，价格差异接近售价的40%；对在线民宿类平台进行调查，结算价格呈现8%的价格差异。

除了大数据杀熟外，电商平台会根据用户的浏览和购买记录来推荐商品，这虽然在一定程度上方便了用户查找相似商品，但也容易导致信息茧房。比如，平台认为某年轻女性用户的消费能力较低，就只给她推送低价商品，而不展示一些高品质但价格稍高的商品，限制了用户的选择范围。

此外，算法通常会倾向于推荐那些销量和点击率高的商品，这可能导致小众但有特色的商品难以获得曝光机会，用户也更容易集中关注到大众热门商品，从而陷入同质化的信息环境，难以发现一些符合自身个性化需求但非热门的商品。

▌打破信息茧房刻不容缓

上海交通大学数据法律研究中心执行主任何渊对《科创板日报》表示，算法带来的信息茧房现象，会导致认知视野受限，人们的思维变得狭窄，难以进行全面、客观的思考，影响对事物的准确判断。同时，创新往往源于不同领域知识的碰撞和融合，信息茧房限制了人们接触新思想和观念的机会，不利于创新思维的培养。

知名经济学者盘和林也指出，对于个人而言，信息茧房会限制对信息的接收。由于没有充分的信息，人们会造成情绪偏激和决策失误。“比如，有些人因为推送各种保健品而被误导、上当。有的年轻人被推送某种潮流玩具而深陷其中，形成沉迷。最终，很多人会因为信息茧房失去信息筛选，辨别能力，也失去系统学习能力。”

从整个社会来看，信息茧房还可能会加剧观点撕裂和社会分层。由于不同的人群看到的信息不同，并在算法推送下反复强化自身认同的观点，无法接触到差异化的内容和更全面的视角。

久而久之，在不同人群之间构建起一道信息墙，导致观点变得单一、狭隘，同时极端化的声音可能会越来越大，对内高度抱团，对外高度差异，不同立场之间的对立变得难以化解。

“在信息茧房造成的后果中，社会和谐稳定受威胁、观点撕裂和社会分层是最严重的现象。因为它们直接影响到社会的稳定和团结，可能导致社会矛盾的激化和长期的社会问题。”何渊认为。

如何建立有效机制打破逐利性算法带来信息茧房，何渊表示，可从以下几个方面采取措施:

一是从政府监管的角度出发，优化政策设计，既能让用户获得优质的信息推送服务，又避免过多同质信息推送导致的信息茧房问题。

二是推动算法的多元化，引入基于内容的协同过滤方法，结合用户兴趣点与内容特征推荐系统中加入多样和新鲜的信息，打破信息孤岛。

三是增强算法透明度，提高算法推荐的透明度，让用户能够了解算法推荐的内容和机制，增强用户对算法的理解和控制能力。

四是提升用户AI素养，加强用户对算法应用的了解，提高用户评估算法影响及应对算法操作的技能，增强用户自主选择性。

五是强化平台算法责任，让平台承担社会责任。通过这些措施，可以有效地打破信息茧房，促进信息的多样性和开放性，增强社会的和谐与稳定。

盘和林则表示，要将算法推荐的决策权还给用户。“由用户来选择是否使用推荐算法，算法可以推荐某一类信息，也可以是通过算法找到新的信息，也可以不要算法直接浏览。其次，提供多元化信息渠道，允许多元化的声音。及时引导人们正确辨别信息是很有必要的。”