撰文：Sarah Frier、Mark Bergen
最近，好几家新闻机构都展示了他们可以基于种族主义和反犹主义词句或类别来购买广告
“这些工具太好用了，我们不用费多大力气就可以相对轻松地暴露出自动广告销售的短板”
随着有证据显示，其系统会根据种族主义和其他冒犯性信息自动弹出广告，世界上最大的几家数字广告公司都对他们的自动化赚钱机器进行了约束。
Facebook关闭了一个重要的自助服务式广告工具，而谷歌也不再让其主要的搜索广告系统为目标市场自动显示一些有冒犯性的词句。这都是美国最大的几家互联网公司正加大监视力度的最新迹象，并且显示了它们受软件驱动的服务和广告业务是如何影响全社会的。
这些公司之所以能够蓬勃发展，靠的就是它们能在无需人类过多干预的情况下面向大量受众大规模投放针对性广告的能力。而最近，好几家新闻机构都展示了他们可以基于种族主义和反犹主义词句或类别来购买广告。尽管大型广告公司不大可能会开展这样的市场营销，但是这一现象显示了这些系统是如何可以被滥用，以及它们可能需要更多的人力监控。
Facebook推广广告购买设定界面
“这些工具太好用了，我们不用费多大力气就可以相对轻松地暴露出自动广告销售的短板，”市场研究机构Pivotal Research Group的分析师兼Facebook和谷歌的批评者布赖恩•维泽尔(Brian Wieser)表示。
Facebook称，在发现有人在填写内容时使用冒犯性文字后，广告公司将不再能根据用户对个人教育背景或雇主的描述来有针对性地进行目标定位。
Facebook也将取消根据用户自己提交的教育背景、专业领域、职位和工作性质等信息来进行目标定位的广告服务，直到解决自助广告系统中的漏洞为止。Facebook之所以做出这一决定，是因为调查性的新闻网站ProPublica发现，广告公司可以根据Facebook用户对类似“憎恶犹太人”的词句所表现的兴趣来定位客户。
Facebook 表示：“我们移除了这些自我填答的定位项目，直到能防止这类问题发生的正确程序到位。”
一直以来，Facebook的系统都在根据社区成员发布的个人帖子来自动生成兴趣类别。“我们禁止广告公司根据宗教和其他特质来歧视人们，“Facebook表示。“不过，违反我们标准的内容还会时不时地在我们的平台上出现。我们知道我们还有更多的工作要做。”
2017年9月14日，Facebook针对其定位广告服务发布声明
Facebook的软件可以自动为广告公司生成目标定位类别，而他们会在人们发现问题后再对这些类别进行调整。事实上，Facebook之前就遇到过与这种被动执行类似的问题，且不仅仅是在广告业务，而且在面向消费者的服务当中也是如此。譬如它的直播视频服务就曾经播出过谋杀或自杀的内容，并且在该公司注意到并将这些内容拿掉之前，这些内容已经有了足够的时间在网上进行了广泛传播。此外，美国国会也正在调查Facebook的广告系统是如何被（很可能是俄罗斯的某些实体）用来影响2016年美国总统大选的。
与此同时，谷歌的AdWords系统，也就是互联网创造的利润最为丰厚的业务之一，也被发现有类似的缺陷。它是根据人们在谷歌搜索引擎输入的词语或关键词来展示广告的。对于卖洗发液或服装的公司来说，这个系统非常管用，但是根据Buzzfeed在2017年9月15日发布的一份报告显示，这个系统对极端主义词语也同样适用。
Buzzfeed展示了在市场营销人士输入诸如“黑人毁了一切”这样冒犯性的搜索词句后，谷歌的系统如何自动向他们提供了其他一些带有种族主义色彩的建议。现在，谷歌已经停止了好几个这样的广告播放，但没有阻止全部。
Google推广广告购买设定界面
“在这一事例当中，关键词的大部分没有触发广告，但是我们也没能捕捉所有这些冒犯性提议，所以这还不够好，而我们也不会为此推脱，”谷歌的广告业务总监斯里达尔拉•马斯瓦米(Sridhar Ramaswamy)在一份声明中表示。“我们已经关闭了这些建议以及任何催生出这些建议的广告，并且将更加努力去阻止这一切再次发生。“
就在2017年早些时候，该公司就因为广告业对其YouTube在线视频服务进行联合抵制而遭受重击。市场营销人士对于广告出现在冒犯性视频一侧而感到担心。在YouTube上，广告可以在各种内容难以预测的视频之前出现，而对于搜索引擎来说，广告商对于自己选取的投放广告的关键词则有着更为严格的控制。
此外，Twitter Inc.的自动广告系统的缺陷也在2017年9月15日遭到了曝光。据《Daily Beast》报道，这家社交媒体公司的平台告诉市场营销人士说，它有数百万用户对“湿背人”（指非法进入美国的墨西哥人）、 “纳粹”和“黑鬼”这样的词语感兴趣。该网站还称，他们针对那些系统认为 “可能对这些词语感兴趣”的用户投放了广告，而Twitter的软件在广告投放前并未要求对活动进行批准。
Twitter方面则表示，《Daily Beast》的报道中使用的关键词早在几年前就被列入了黑名单，目前公司正在调查这家刊物是如何得以将广告放在他们的平台上的。“Twitter会积极地禁止并防止任何冒犯性广告出现在我们的平台上，”该公司在一封电子邮件中这样表示。
编辑：李辰旭稼、黄琬钧
翻译：霁涵
◆ ◆ ◆ ◆ ◆
点击你感兴趣的关键词
立即获得关于TA的更多信息！
机场健身丨廉价iPhone丨睡眠丨结婚
丁磊丨摩托车崛起丨日本百元店丨塔吉特危机
教育丨中国地产丨啃小族丨迪士尼丨比特币分叉
汽车革命丨腾讯刘炽平丨狼人杀丨省钱套路丨涨工资
知识付费丨赌城丨拼飞机丨iPhone设计师丨机器人语言
......
