在新兴的数据伦理领域,包容性本身就是一种技术。在某些情况下,包容意味着扩大性别、种族或性取向等身份标记的复选框和数据输入字段,为用户自我识别和定向广告开辟新的可能性,意味着雇用低薪工人秘密拍摄无家可归的人和大学生,以使面部识别数据集多样化。包容性话语表明社会转型是分散对统治和从属结构性条件的抵抗的一种方式,表明对结构性暴力和数据歧视问题的有限和原子性反应也可以方便地掩盖问题了。本文利用女权主义和其他关于话语暴力的观点来探讨包容性的局限性,如果不伴随着现有权力结构的剧变,作为一种暴力形式,包容性话语的作用是驱散对结构性不平等的反对,强化不平等的关系,并维持数据科学和技术的暴力潜力。
行政暴力描述了行政系统如何促进国家暴力,这些暴力被编码在法律、政策和计划中,按原住民、种族、性别、能力和国籍等类别来安排和定义人们。数据暴力的概念是对行政暴力的发展,将行政暴力的见解扩展到公共和私人数据技术及其随之而来的话语的更广泛领域。“数据暴力”代表了所谓的“信息权力”的一个例子,即支持和操纵其他形式权力的信息基础的权力,例如工具性权力、 结构性权力和象征性权力。
从历史上看,数据引发的暴力是有据可查的。例如人口数据对美洲原住民的被迫流离失所和大规模屠杀起到了重要作用。数据暴力早于数字数据和电子计算机,但自 19 世纪末以来,此类暴力已通过计算工具和技术得到扩展和放大,计算、数据和国家暴力之间的联系加强,人们思考和概念化“国家安全”的方式已经被计算、网络监控基础设施和统计模型重塑。
重要的是,话语研究对于理解数据科学和技术是不可或缺的,数据科学和技术构成了更广泛的社会形成和监管过程。
在某些情况下,暴力的政治功能是通过物质实现的,例如军事化执法人员、经济资源分配不当或最极端的种族灭绝计划的形式。在其他情况下,它以规范、模式或“存在方式”的形式,即以话语形式释放出来,这些形式表明一个人对其他更直接的物质和象征性暴力的脆弱性。军事化的暴力不仅来自身体、资源和体力的特定物质配置,而且还来自社会及其人民最终依赖的微妙过程,将压迫性的价值观和理想内化。这种话语转变削弱了人们区分暴力和非暴力状况的能力。话语暴力通过使条件正常化来分散抵抗。
“数据化”的概念不仅依赖于物质资源、劳动力和生产的重新配置,而且依赖于物质资源、劳动力和生产的重新配置。它也是一个话语过程,通过量化和统计方法的逻辑来引导人类生命并为其赋予价值。数据化代表了一种既是社会性又是技术性的话语,构建了各种身份和身体如何产生、浮现、理解、被视为合法和赋予意义的方式 。
从方法论上来说,关注数据化的话语暴力意味着揭露内化并进一步巩固其暴力或压迫性预设的微妙过程,要求人们关注某些社会依赖性和政治安排的正常化方式,例如,通过参考其所谓的好处(如早期的“大数据”助推器)或将社会政治结构定位为某种自然的或预先给定的( 如种族或性别等身份类别的具体化一样)。
三、包容性与新数据伦理
特别是在过去十年间,活动家、倡导者、记者和学者的工作帮助揭露了数据科学和技术的有害和歧视性影响,这些工作有助于提高公众对大数据、算法和人工智能造成的危害的认识。对数据科学和技术潜力的描述,吸引了工业界、学术界或政府等领域对数据化未来进行投入。这些领域中的人们需要替代性话语,特别是承认数据科学和技术所造成的危害,同时又不承认它们所具有的社会、政治或经济力量的话语。包容性的中心地位在其所涉及的各种活动中显而易见,包括但不限于会议和“以人为本”的研究活动、多样性努力、界面和数据输入设计变更、技术解决方案以及营销和公共关系活动。
1. 包容作为社会承诺:
包容性已成为改进数据科学和技术并尽量减少其危害的标志。例如,公平、问责和透明度会议之所以受到关注,部分原因是它试图“将多元化的学者群体聚集在一起”,以解决与一系列数据技术相关的社会和道德问题。与此同时,大型科技公司公开重申了建立更具包容性的工程和设计团队的承诺。正如微软的一项举措所述,“在设计和打造这些体验的团队中聘用不同背景、学科、性别、种族和文化的人至关重要”。这些活动背后的假设是,设计和开发团队的多元化将理所当然地带来更具包容性的数据技术和产品。
2.
包容作为歧视解决方案:
包容性的理想也渗透到减轻数据科学和技术中的偏见和歧视问题的努力中。通常,这项工作的重点在于,系统的不公平或有偏见的输出可能是因数据集的限制或偏见而产生。例如,在训练数据中,计算机“学习”应用由一组算法定义的规则和程序,如果训练数据不能充分代表该计划最终应用的人群,则可能会产生有问题的结果。除了公平和包容性的算法之外,对包容性的推动还扩展到种族和性别等人口统计信息的数据输入设计,以及各种个人身份表达的定制选项。
3
.
包容作为情感诉求:
高调的营销和公关活动进一步加强了包容性工作,其特点是强调科技在调解人际关系等方面的作用。例如,在首席执行官马克·扎克伯格在美国国会议员面前作证后,Facebook 发布了当时其有史以来规模最大的广告活动。在其中,该公司采取了悔恨的语气,承诺“做得更好”并重新专注于建设社区。同样,谷歌 的媒体闪电战——标题为“Here to Help”——将其作为信息资源的角色作为中心,并恳请用户接受更具包容性和多样化的世界观。