专栏名称: 数盟
数盟(数据科学家联盟)隶属于北京数盟科技有限公司,数盟致力于成为培养与发现“数据科学家”的黄埔军校。 数盟服务包括:线下活动、大数据培训。 官网:http://dataunion.org,合作:[email protected]
目录
相关文章推荐
数据派THU  ·  【HKUST博士论文】增强大型语言模型的可信 ... ·  12 小时前  
软件定义世界(SDX)  ·  与孙正义对话,Sam ... ·  2 天前  
数据派THU  ·  深入解析图神经网络:Graph ... ·  昨天  
CDA数据分析师  ·  【内推】银行初级金融数据分析师 ·  昨天  
51好读  ›  专栏  ›  数盟

AI应用风险「警示录」:我们创造了贫困,但算法却无力改变

数盟  · 公众号  · 大数据  · 2018-05-16 22:00

正文

我们生活在一个紧缩开支的环境中。

仅在过去几个月里,我们看到美国发生很多这种情况:政府公布的一项联邦预算提议减少对低收入者住房的支持,一项削减福利项目的行政令,以及一项在全国范围内建立贫困和工薪阶层人员电子登记册的计划。

在福利削减的情况下,哪些家庭能够获得住房、食品和医疗保健这些基本的人类需求?又有哪些家庭不能获得呢? 现在,更多的是算法——而非人类来做出这种决定。

2010 年以来,我跑遍全国,研究并撰写高科技工具对公共服务项目影响的文章。

在印第安纳州,我调查了一项旨在实现国家福利资格流程自动化和私有化的应用案例。

在洛杉矶县,我研究了协调入住系统,这是一个数字工具,目的是将最适当的可用资源与最需要帮助的无家可归者进行匹配。

在宾夕法尼亚州的阿利根尼县,我研究了一个统计模型,该模型可以预测哪些儿童将来会成为被虐待或被忽视的儿童。

在我访问的每个地方,政策制定者、数据科学家和社会工作者都讲述了一个非常一致的事实:

公共项目对 人工智能 的需求很大,但提供帮助的能力很有限。

他们告诉我,自动化决策的目标是更公平地分配有限的资源,同时让算法在那些饱受痛苦,被边缘化的人群中做出取舍,避免人类因选择而需承担的心理压力。

在这张2017年10月28日的文件照片中,一个无家可归的人从洛杉矶贫民区的垃圾桶里拿食物,这个地区是全美最大的无家可归者聚集地

洛杉矶第三区关注住房和无家可归问题的议员莫莉•莱斯曼 (Molly Rysman) 在 2015 年谈到协调入住问题时表示:

「我们 (对住房) 有着非同寻常的需求,但我们无法同时满足所有的这些需求。所以必须弄清楚:我们怎样才能做到让那些因流血快要死亡的人去看医生,让那些得了流感的人再等一等?这样的选择让我们很难过,但这就是我们所面临的现实问题。」

其结果是,用于管理贫困的数字工具大量涌现,也减轻了我们因在解决经济困难方面的不足而不安的感觉。

自动化的资格认证体系取消了一线社会工作者的酌处权,福利办公室也被网上电子表格和私有化的呼叫中心所取代。

为了降低项目障碍和消除人类偏见而做出的努力似乎往往会产生相反的效果,反而阻碍了成千上万的人获得他们应得的服务。

例如,在印第安纳州,来自埃文斯维尔(Evansville)的 Omega Young 因没能参加电话再认证的预约从而没能获得医疗补助的覆盖。她错过了这个电话,因为她当时正因癌症晚期而入院接受治疗。

算法扮演着道德温度计的作用,筛选调查数据,根据它们计算出的贫困程度对无家可归的人进行排序。在最理想的状态下,这确保了那些最需要帮助的人更快地得到帮助。

但由于廉价住房的稀缺,就产生了「值得」这种情况,往往意味着这些住房会优先考虑那些服务最具成本效益的人。

预测模型利用统计数据来预测哪些父母会虐待自己的孩子。但是作为预测模型基础的数据仅仅集中在使用公共项目的家庭身上,导致高科技风险检测系统混淆了教养无方和无力教养的差别。

在匹兹堡,新的阿勒格尼家庭筛选工具(Allegheny Family Screening Tool)以人类服务部门公共服务数据库提供的 131 个不同变量作为 权重 进行评价,包括一个家庭是否接受 Snap,抑郁支持,或者城镇提供的医疗援助,以决定哪些电话应该打给该县的虐待和忽视热线,以便对儿童福利进行调查。

换句话说,我们越来越倾向于使用数字工具来对饱受贫困之苦的家庭进行排名和评价,已决定哪些家庭最应该得到帮助。

这种高科技鉴别方法的问题在于,它把社会问题当作自然灾害来对待,将社会问题看成是随机的、暂时的、不可避免的事情,这种方式掩盖了产生这些问题的政治抉择。

拿我在 Skid Row 和南洛杉矶的报道中亲眼目睹的住房危机为例,仅在洛杉矶县就有 5.8 万人无家可归,超过了瑞典、挪威、丹麦、芬兰和冰岛无家可归人数的总和。自 2014 年以来,洛杉矶县的无家可归人口每年都在增长; 去年,这一数字增加了23%。

在洛杉矶市中心,一个无家可归者的帐篷在幸运大街 (Lucky Ave) 前的人行道上搭起了帐篷。

可以看到,洛杉矶的住房危机不是随机的、暂时的或者不可避免的,过去不是,现在也不是。

上世纪 50 年代,反对者通过向众议院非美活动调查委员会(House un-American activities committee)报告住房管理部门,阻止了建造 1 万套廉价住房的计划。为穷人和工薪家庭提供住所的想法被认为是共产主义行为。

在 20 世纪 60 年代,该城进行总体 规划 时,拆除了那些「老旧」社区,但却没有建造替代性的住房。

无家可归问题是缩减开支政策的产物。

造成这种情况的原因是社会福利性住房供应不足,再加上收入水平停滞不前,公共服务体系不健全,将太多的资源用于了其他的地方,而那些需要帮助的人却无法得到法律上有权得到的援助。

美国住房危机是美国集体的责任,一个好的好消息是:如果我们制造了这场灾难,我们也能解决它。两个简单但在政治上很具有挑战性的补救措施,可以大大遏制住房问题的增长。

首先,拥有房屋的人可以同意放弃我们抵押贷款利息的减免。社会学家马修 · 德斯蒙德(Matthew Desmond)指出,作为一个国家,我们在 2016 年花费了大约 410 亿美元用于为穷人提供住房。

然而,我们在房屋所有者税收补贴上花费了逾 4 倍的资金——1710 亿美元,这些补贴主要惠及的是年收入超过 10 万美元的家庭。将这些资金用于创造和稳定低收入住房,可以在一年内解决无家可归的问题。

2015 年 11 月 20 日,费尔南多·洛佩兹在洛杉矶的洛杉矶河里洗澡。

其次,我们可以降低接受社会服务的障碍,增加对 TANF(「贫困家庭临时救助计划」(Temporary Assistance for Needy Families))、 Snap、 EITC(「Earned Income Tax Credit」收入所得税存款)和其他经济情况调查的津贴补助。







请到「今天看啥」查看全文