编者荐语：
这篇文章通过两个精心设计的随机实验研究，深入探讨了社交媒体用户对不同类型有毒言论（包括无礼、不容忍和暴力威胁）的内容审核偏好。研究发现，尽管言论的毒性程度和攻击目标对用户的内容审核偏好有显著影响，但总体而言，用户对有毒言论的内容审核需求相对有限。只有在涉及对少数群体的暴力威胁时，才会看到较多数用户要求删除帖子或暂停发帖者的账户。这一发现不仅挑战了以往对用户需求的假设，也为社交媒体平台的治理、政策制定以及民主理论研究提供了新的视角和重要的实证依据。文章结合了政治科学、传播学和心理学等多个学科的理论和方法，采用严谨的研究设计，使得研究结果具有较高的可信度和科学性。因此，这篇文章不仅为理解社交媒体中的有毒言论和内容审核问题提供了新的见解，也为相关领域的研究和政策制定提供了重要的参考价值。
点击标题下方蓝字
关注
+
星标
“Political理论志”
不错过社会科学前沿精彩信息哦
具体操作如右 →
摘要:
社交媒体上的言论何时会达到足够“有害”的程度，从而需要内容审查？平台会对在线发布的内容施加限制，同时也依赖用户举报潜在的有害内容。然而，我们对用户如何界定公共话语中不可接受的内容，以及他们希望采取哪些措施，仍然知之甚少。基于以往研究，我们将有害言论（toxic speech）概念化为三种类型：无礼（incivility）、不宽容（intolerance）和暴力威胁（violent threats）。我们通过两项包含预注册随机实验的研究，探讨这些不同类型的有害言论如何因果性地影响用户对内容审查的偏好。研究结果表明，尽管言论毒性的严重程度和攻击对象都会影响用户的看法，但整体而言，用户对有害言论的内容审查需求有限。我们讨论了这些发现对政治学领域中“言论毒性”与“内容审查”研究的影响，并分析其对平台、政策制定者以及更广泛民主实践的关键意义。
作者简介:
Franziska Pradel, Jan Zilinsky, Spyros Kosmidis, Yannis Theocharis
编译来源:
Pradel, F., Zilinsky, J., Kosmidis, S., & Theocharis, Y. (2024). Toxic speech and limited demand for content moderation on social media.
American Political Science Review
, 118(4), 1895-1912.
本文作者：
Franziska Pradel
等人
哲学家们认为，文明礼貌作为一种规范理想是民主话语的必要条件。除了表现出良好举止、品格、礼貌和自我控制的行为外，哈贝马斯和罗尔斯等理论家认为，文明礼貌是一种美德，因为它促进了对他人的尊重和关心；它是“使社会秩序得以存在，使城市、州或国家得以正常运转”的原因。然而，其他人则认为，这种说法低估了激烈、不可预测的冲突的重要性。
随着社交媒体的普及，文明在公共话语中的作用愈发重要。不文明、不宽容和暴力内容最近在一些社交平台上急剧增加，导致人们担心社交媒体不仅会对公共话语有害，而且会对更普遍的民主有害。这引出了两个关键问题：
是否应该对有毒内容进行审核以维持文明的公共话语？还是应该让社交媒体上的此类言论不受约束？
二、动机和概念框架
对于许多理论家来说，文明被认为是一套社会和文化规范以及与礼仪或良好举止相关的社会生活美德，并且符合社会确立的尊重、宽容和体贴规则。在这个思想流派，文明很重要，因为它意味着愿意倾听他人的意见并尝试从他们对善的概念的角度来看待事物，从而推动了举止得体、尊重和理性的讨论。不过Aikin和Talisse提醒我们：真正的文明其实不需要人一直死板遵守礼貌规矩，更不需要为了保持表面和气，就用温和客气的态度绕过最该讨论的核心矛盾。
事实上，正如 Herbst 和 Papacharissi 在他们对不文明行为辩论的评论中所概述的那样，一些哲学家实际上已经将各种形式的不文明行为作为民主解放和追求正义的基本要素。这些叙述暗示了这样一种观点，对文明的定义和对可接受公共话语的规范性理解同现有精英过于紧密地联系在一起。这意味着一些精英对文明的理解可能与公民在日常生活中惯用言语的个性、独特性、对抗性、缺乏克制和不礼貌相悖——尤其是在社交媒体上。
人们普遍认为，有毒言论在公共话语中的数量已经变得更加明显。关于不文明行为和其他形式的有毒言论影响的文献通常展示了其负面后果。许多研究表明，无礼和不宽容（在各个方面，例如民族和种族）与许多严重的心理和社会后果有关。暴力（政治）言论会引起两极分化，并可能成为实际暴力的前兆并刺激仇恨行为。与此同时，不文明行为在情感上会引起人们的情绪激动，例如有时能够动员公民并增加他们对政治的兴趣、诱导政治动员情绪，甚至增加对某些信息可信度的看法。
在这项研究中，我们概念化了三种“有毒言论”：无礼、不宽容和暴力威胁。
三、
有毒言论及其审核预期
无礼行为是有毒言论的主要表现形式。无礼行为被认为包括从不必要的不尊重语气和缺乏尊重到粗鲁和不考虑他人感受的语言。过去的测量策略表明，除了构成
种族主义言论
的单词外，无礼行为主要包括不友善的
词语、亵渎、侮辱和脏话
，而对特定社会群体的明显攻击，或破坏他们并贬低他们的政治平等和受保护特征的短语则较少。从这个意义上说，从规范上讲，这种语言的大部分可能被认为没有跨越公共话语中可接受的界限并值得内容审核。
有毒言论的第二种表现，无疑越过了文明的界限，是不宽容的言论。
不宽容与无礼的不同之处在于，它旨在贬低、压制或削弱特定群体，攻击他们的权利，并煽动暴力和伤害。
不宽容是一个多维概念，在过去的工作中，它被衡量为基于个人特征、偏好、社会地位和信仰而针对个人或群体的骚扰和歧视言论，以及对其个人自由的剥夺。 总体而言，这一研究领域中不容忍的表现涉及精英的不宽容言论，包括仇外、恐同、种族主义和宗教不宽容言论以及暴力威胁。
暴力威胁也是不宽容行为的一种（或伴随的不宽容言论）。然而，在我们看来，
暴力威胁他人的行为属于程度更重的有毒行为，因为它明确宣布了身体伤害的意图。
它也是一种广泛而明确的有毒言论形式。因此，我们将暴力威胁区分为有毒行为的第三种表现。在一项针对政治对手的暴力威胁的研究中，Kim 将政治暴力定义为“表达对政治对手造成严重身体伤害意图的言论”，暴力威胁是通过暴力政治词汇字典和困难案例的额外手工标签来衡量的。
在这里，我们感兴趣的是用户在接触有毒言论时如何反应，特别是对内容审核的态度。我们概述的三种有毒言论包含不同程度的严重性，暴力威胁显然比辱骂他人或亵渎等言语要严重得多。但是目前尚不清楚的是，人们是否希望通过更严格的内容审查来对待这些有毒言论。
研究表明，这些有毒言论对受害者和旁观者都有一系列负面影响。由于不宽容和暴力威胁与特别有害的结果有关，因此可以合理地假设这两种类型的有毒言论将招来最严格的内容审核。
但是仍有两种观点可以反驳这一推论。一是有毒言论的“正常化”，这指一些群体对有毒言论习以为常，懒得举报这些言论。例如在玩游戏的时候，玩家通常认为部分有毒言论是玩笑或可以被接受的。二是言论自由，即人们必须忍受偶尔的有毒言论，因为这些言论有助于人们理解其他人的观点或参与反驳言论以消除伤害。
四、研究设计和方法
研究一包含三个独立实验，分别以LGBTQ群体、带有基督教标识的卡车司机和亿万富翁为目标对象。实验有效样本量为5,130人。实验设计中，参与者被随机分配至不同处理组：
1.对照组：包含反对目标群体的中性言论（如“好莱坞应专注电影而非宣传同性伴侣”），但无毒性语言；
2.实验组：分别呈现针对目标群体的无礼言论（如使用粗俗语言）、不容忍言论（如排斥性表述）和暴力威胁（如“下次见到他们我会动手”）。
实验后，参与者需评估社交媒体公司应如何处理相关帖子，选项包括“不采取行动”“添加警告标签”“降低帖子可见性”“永久删除帖子”或“封禁用户账号”。此外，研究还通过分类问题验证参与者对有毒言论的识别能力，确保实验操作的有效性。
研究二进一步扩展目标群体至政治党派成员（民主党或共和党），采用与研究1类似的设计，但聚焦于党派间的攻击性言论。研究招募了3,734名参与者，分为两组：一组观察针对民主党成员的攻击，另一组观察针对共和党成员的攻击。实验同样设置对照组和不同毒性水平的处理组，以检验党派身份是否影响用户对内容审核的偏好。研究通过对比两党支持者的反应，分析党派认同与毒性言论审核需求之间的关系。
两项研究均采用逻辑回归模型分析实验效果。此外，研究还进行了异质性分析，探讨年龄、党派归属和社会媒体使用频率等因素对审核偏好的影响。
五、讨论
首先，我们发现不同类型的有毒言论具有不同的后果。
我们表明，不同类型的有毒言论会引起不同的用户反应。虽然无礼、不宽容和暴力威胁确实可以被认为是一个连续体，我们的分析表明，不宽容和无礼行为会引起类似的内容审核响应，但受访者认为这两种有毒言论的社会建构存在差异，无礼是一个语气问题——例如，粗言秽语——而不宽容是一个实质问题——例如歧视。
其次，我们发现，对无礼和不宽容言论的内容审核支持率通常很低。
我们的绝大多数受访者表示，无礼和不宽容的内容应该留在网上，在所有研究中，禁止用户或删除内容等审查形式是最不受欢迎的选项之一。
再者，异质性检验揭示了一个有趣的模式，我们只发现有限的证据表明受访者通过他们的党派视角看到了有毒言论的审核。
在我们的实验中，包括那些使受访者受到针对外围群体党派的攻击的实验，受访者的观点非常一致，民主党人总体上更有可能要求节制。值得注意的是，无论受害者属于共和党还是民主党，受访者的态度都未受显著影响——他们对本党施害者的敏感度与其他情况基本持平。
最后，我们的研究提出了有关平台内容审核策略未来的重要问题。
在我们的研究中，美国人在遇到有害言论时对内容审核的支持水平非常低，这对公共辩论的健康产生了重要影响。面对社交媒体上不断恶化的公共话语，对公共对话的健康状况感兴趣的用户几乎没有办法来对抗他们认为有毒的言论，而标记内容是最强大的选择之一。
然而，极简主义的内容审核方法可能会产生可怕的后果。
反复接触有毒言论可能会导致使用者对此习以为常，从而对目标对象造成严重的负面影响。虽然极简主义方法可能更符合大多数用户的需求并且不会侵犯言论自由权，但存在边缘化群体和暴力威胁受害者无法表达自己和自由参与公共话语的风险。对于社交平台来说，在言论自由和保护免受伤害之间取得适当的平衡仍然是一个复杂的挑战。
编译 | 周傲珺
审核 | 左翔羽
终审 | 一斤
©Political理论志
本文内容仅供参考，不代表Political理论志观点
