专栏名称: PoIiticaI理论志
四万余社会学人、政治学人、经济学人共同关注的学术平台。目前,我们主力追踪国内外政治学、社会学与经济学研究新动态。
目录
相关文章推荐
北京本地宝  ·  通通免费!北京8个被严重低估的小众景点! ·  昨天  
中国国家地理  ·  这地方,是“万龙甲”照进现实景观了吗? ·  20 小时前  
最爱大北京  ·  复旦大学研究:周末补觉1-2小时,竟有这些神 ... ·  22 小时前  
北京本地宝  ·  正式实施!驾驶证申领政策有变! ·  2 天前  
51好读  ›  专栏  ›  PoIiticaI理论志

技术包容性的幻象:数据中的权力与暴力 | New Media & Society

PoIiticaI理论志  · 公众号  ·  · 2025-02-19 10:00

正文

编者荐语:

通过对“话语暴力”这一概念的探讨,本文指出了包容性话语如何加剧人们对压迫性社会结构的依赖, 淡化和掩盖根本性差异与不平等 这篇文章 容性话语与数据暴力理论化, 提供了一个批判性的视角,用以重新审视技术进步与社会正义之间的复杂联系,更重要的是 解释了“数据暴力”的概念





因公众号推送规则变更

点击标题下方蓝字 关注 + 星标 “Political理论志”

不错过社会科学前沿精彩信息哦

具体操作如右 →






包容性的条件:数据、话语与暴力

摘要:

包容性已成为新兴数据伦理领域的基石价值。呼吁包容性似乎是为了应对数据技术在做出决策时存在偏见或歪曲人民的威胁,从而加剧长期存在的压迫和结构暴力。然而,这些新兴的包容性话语远不足以应对普遍数据收集和监视威胁。本文从话语暴力的视角来理论化包容性与潜在的数据科学暴力之间的关系,以阐明“包容”理想中隐含的不正当权力关系。

作者简介:

Anna Lauren Hoffmann 华盛顿大学信息学院


文献来源

Hoffmann, A. L. (2021). Terms of inclusion: Data, discourse, violence. New Media & Society , 23 (12), 3539-3556.



本文作者 Anna Lauren Hoffmann


一、引言


在新兴的数据伦理领域,包容性本身就是一种技术。在某些情况下,包容意味着扩大性别、种族或性取向等身份标记的复选框和数据输入字段,为用户自我识别和定向广告开辟新的可能性,意味着雇用低薪工人秘密拍摄无家可归的人和大学生,以使面部识别数据集多样化。包容性话语表明社会转型是分散对统治和从属结构性条件的抵抗的一种方式,表明对结构性暴力和数据歧视问题的有限和原子性反应也可以方便地掩盖问题了。本文利用女权主义和其他关于话语暴力的观点来探讨包容性的局限性,如果不伴随着现有权力结构的剧变,作为一种暴力形式,包容性话语的作用是驱散对结构性不平等的反对,强化不平等的关系,并维持数据科学和技术的暴力潜力。


行政暴力描述了行政系统如何促进国家暴力,这些暴力被编码在法律、政策和计划中,按原住民、种族、性别、能力和国籍等类别来安排和定义人们。数据暴力的概念是对行政暴力的发展,将行政暴力的见解扩展到公共和私人数据技术及其随之而来的话语的更广泛领域。“数据暴力”代表了所谓的“信息权力”的一个例子,即支持和操纵其他形式权力的信息基础的权力,例如工具性权力、 结构性权力和象征性权力。


从历史上看,数据引发的暴力是有据可查的。例如人口数据对美洲原住民的被迫流离失所和大规模屠杀起到了重要作用。数据暴力早于数字数据和电子计算机,但自 19 世纪末以来,此类暴力已通过计算工具和技术得到扩展和放大,计算、数据和国家暴力之间的联系加强,人们思考和概念化“国家安全”的方式已经被计算、网络监控基础设施和统计模型重塑。 重要的是,话语研究对于理解数据科学和技术是不可或缺的,数据科学和技术构成了更广泛的社会形成和监管过程。



话语暴力和压迫正常化

在某些情况下,暴力的政治功能是通过物质实现的,例如军事化执法人员、经济资源分配不当或最极端的种族灭绝计划的形式。在其他情况下,它以规范、模式或“存在方式”的形式,即以话语形式释放出来,这些形式表明一个人对其他更直接的物质和象征性暴力的脆弱性。军事化的暴力不仅来自身体、资源和体力的特定物质配置,而且还来自社会及其人民最终依赖的微妙过程,将压迫性的价值观和理想内化。这种话语转变削弱了人们区分暴力和非暴力状况的能力。话语暴力通过使条件正常化来分散抵抗。

“数据化”的概念不仅依赖于物质资源、劳动力和生产的重新配置,而且依赖于物质资源、劳动力和生产的重新配置。它也是一个话语过程,通过量化和统计方法的逻辑来引导人类生命并为其赋予价值。数据化代表了一种既是社会性又是技术性的话语,构建了各种身份和身体如何产生、浮现、理解、被视为合法和赋予意义的方式 。


从方法论上来说,关注数据化的话语暴力意味着揭露内化并进一步巩固其暴力或压迫性预设的微妙过程,要求人们关注某些社会依赖性和政治安排的正常化方式,例如,通过参考其所谓的好处(如早期的“大数据”助推器)或将社会政治结构定位为某种自然的或预先给定的( 如种族或性别等身份类别的具体化一样)。



三、包容性与新数据伦理


特别是在过去十年间,活动家、倡导者、记者和学者的工作帮助揭露了数据科学和技术的有害和歧视性影响,这些工作有助于提高公众对大数据、算法和人工智能造成的危害的认识。对数据科学和技术潜力的描述,吸引了工业界、学术界或政府等领域对数据化未来进行投入。这些领域中的人们需要替代性话语,特别是承认数据科学和技术所造成的危害,同时又不承认它们所具有的社会、政治或经济力量的话语。包容性的中心地位在其所涉及的各种活动中显而易见,包括但不限于会议和“以人为本”的研究活动、多样性努力、界面和数据输入设计变更、技术解决方案以及营销和公共关系活动。

1. 包容作为社会承诺: 包容性已成为改进数据科学和技术并尽量减少其危害的标志。例如,公平、问责和透明度会议之所以受到关注,部分原因是它试图“将多元化的学者群体聚集在一起”,以解决与一系列数据技术相关的社会和道德问题。与此同时,大型科技公司公开重申了建立更具包容性的工程和设计团队的承诺。正如微软的一项举措所述,“在设计和打造这些体验的团队中聘用不同背景、学科、性别、种族和文化的人至关重要”。这些活动背后的假设是,设计和开发团队的多元化将理所当然地带来更具包容性的数据技术和产品。

2. 包容作为歧视解决方案: 包容性的理想也渗透到减轻数据科学和技术中的偏见和歧视问题的努力中。通常,这项工作的重点在于,系统的不公平或有偏见的输出可能是因数据集的限制或偏见而产生。例如,在训练数据中,计算机“学习”应用由一组算法定义的规则和程序,如果训练数据不能充分代表该计划最终应用的人群,则可能会产生有问题的结果。除了公平和包容性的算法之外,对包容性的推动还扩展到种族和性别等人口统计信息的数据输入设计,以及各种个人身份表达的定制选项。

3 . 包容作为情感诉求: 高调的营销和公关活动进一步加强了包容性工作,其特点是强调科技在调解人际关系等方面的作用。例如,在首席执行官马克·扎克伯格在美国国会议员面前作证后,Facebook 发布了当时其有史以来规模最大的广告活动。在其中,该公司采取了悔恨的语气,承诺“做得更好”并重新专注于建设社区。同样,谷歌 的媒体闪电战——标题为“Here to Help”——将其作为信息资源的角色作为中心,并恳请用户接受更具包容性和多样化的世界观。



四、 数据暴力的话语基础


激进主义和批判性学术揭示了数据科学和技术如何助长种族主义、性别歧视、殖民主义和反原住民暴力。关于话语暴力的工作要求人们抵制将数据技术简化为纯粹的工具,而是使自己适应更广泛的规范、理想和权力配置,同时维持和掩盖数据科学和技术促进暴力的潜力。


也许最值得注意的是,包容性话语过于巧妙地提出和解决暴力问题。 包容性将某种技术(通常是科技公司)定位为社会进步不可或缺的一部分,利用承认作为一种手段来分散差异的根本潜力,加深人们对压迫性社会秩序的依赖。 秉持着 “包容性”使命宣言的组织承认数据技术会产生有害甚至暴力的结果,但通过将数据科学和技术定位作为最终解决方案。更具包容性的数据集和数据输入字段被标榜为进步或“做得更好”,隐含地承认其包容性较低的迭代所造成的危害。它通过将问题重新定义为迭代、改进和更具包容性的事情之一,中和了不收集某些类型的数据或构建某些技术的关键呼吁。

通过缩小能够进行技术干预的力量和专家的范围,使技术变得“更好”,即更具包容性),这种话语首先通过更改最明显的数据和个人来取得进展。 然而,这种对社会问题的“包容性”解决方案并没有触及社会等级制度的暴力,因为其优先考虑技术形式的歧视或不公平,而牺牲了个人或群体面临的其他技术,将广泛的社会愿望转化为个人责任问题,最终会加剧而不是缓解现有的不平等。 这一话语举措的进一步后果是,它对解决数据科学和技术潜在暴力所需的资源和专业知识的狭隘概念。






请到「今天看啥」查看全文