研究速递：虚假信息与语言暴力在互联网上并非独立现象

混沌巡洋舰 · 公众号 · · 2024-04-15 20:36

正文

社交媒体上用户发布的虚假信息和语言暴力已引发了学术界和大众广泛关注。尽管已有大量研究分别探讨了这两种问题，但它们在很大程度上，虚假信息与社交网络的语言暴力仍是独立的研究领域。近日PNAS nexus上的研究通过分析来自 6,832 名 Twitter（现称 X）用户的 8,687,758 条帖子和 14,617 条来自专业事实核查网站的真实与虚假标题数据集，深入探讨了虚假信息分享与语言暴力（有害语言，即侮辱性、不尊重、过于消极的言论，或基于种族、民族、性别、性取向、国籍和宗教等属性攻击或贬低个人或群体的言论）之间的关系。

https://academic.oup.com/pnasnexus/article/3/3/pgae111/7626151?login=false

分析显示，这两者之间存在显著的正相关。具体来说，那些包含低质量新闻链接的推文往往伴随更多有害语言；虚假标题比真实标题含有更多有害语言。而且，倾向于分享低质量新闻源的 Twitter 用户，即使在其非新闻相关的帖子中，也倾向于使用更多有害语言。这些跨数据集和分析层次的一致发现表明， 虚假信息和有害语言是相互关联的，而非孤立现象 。然而，有害语言的存在并不能有效指示信息质量：大多数低质量信息并不包含有害语言，而相当一部分高质量信息确实包含有害语言。总体而言，该研究强调了将这两个研究领域整合并理解其心理学联系的重要机会。

图1：a）在包含低质量网站链接的帖子与包含高质量网站链接的帖子之间有害语言的分布。虽然我们的分析使用连续的新闻来源质量得分，b）标题文本的有害语言水平在被评定为虚假的标题与被专业事实核查员评为真实的标题之间的分布。

图2：分享更多低质量新闻域并使用更多有害语言的用户。使用有害语言与内容质量之间的关联。

该研究表明，虚假信息和有害语言之间存在联系。包含低质量新闻媒体链接的 Twitter 帖子更有可能使用有害语言，虚假新闻标题也是如此。此外， 分享更多低质量新闻来源链接的用户也更有可能使用更有害的语言——即使在他们的非新闻帖子中也是如此 。使用Twitter帖子和新闻标题发现的结果的相似性是惊人的，这证明了发现的稳健性。两现象之间的关系，意味着科技公司和社交媒体平台可能有机会制定干预措施，通过针对有害信息和虚假信息的交叉点，同时减少两者的出现。

然而，重要的是，尽管低信息质量和有害语言之间的关联在统计学上具有高度的显著性，但这种关联的程度还不足以使有害语言特别具有误导性，例如大多数低质量和高质量的帖子（以及大多数真实和虚假的标题）都没有使用有害语言。同样，许多真实的帖子和标题都包含有害语言。因此， 观察到帖子或标题包含有害语言并不足以得出它可能是错误信息的结论，观察到帖子或标题不准确也不足以得出它涉及有害语言的结论 。这具有重要意义。例如，如试图通过将有害语言描述为一种错误信息技术来“接种”人们免受错误信息的侵害，这可能不会有成效。

当前的研究，是基于人工进行信息审核和有害语言标注的，未来的相关研究，将可采取大模型鉴别虚假或有害信息，并尝试让智能体分析用户使用有害语言或分享虚假信息背后的心理机制，如此便可探索分享虚假信息和使用有害语言之间共享的心理机制，例如身份地位带来的焦虑。

研究速递：虚假信息与语言暴力在互联网上并非独立现象

正文

请到「今天看啥」查看全文