文 | 猎云网（ilieyun）蔡妙娴
4189字，约11分钟阅读
猎云君：Facebook成立于2004年，在面临着MySpace的强力竞争下，该公司开始通过内容审核来增强自身优势。MySpace号称社交网络世界的夜店，常被指责是色狼的聚集地。和它相比，Facebook好比社交网络的常春藤，他们要求用户填写真实姓名和信息。
上个月，伦敦恐怖袭击发生后，一名美国国会议员在Facebook发帖，指责这次屠杀是“激进的穆斯林”的行动。“找到他们，证明身份，杀掉他们。”美国国会代表，路易斯安那州共和党人Clay Higgins写道，“把他们都杀了，为了所有善良、正直的人，把他们杀光。”
尽管Facebook一向号称会铲除所有攻击性言论，但Higgins的帖子并未得到任何处理。
5月，波士顿诗人，“黑人生命同等重要”活动家Didi Delgado的帖子却遭到了不同对待。他写道：所有白人都是种族歧视者。不久，这则帖子被删除，Delgado的Facebook账户也被禁用7天。
日前，新闻网站ProPublica曝光一系列文件，关于Facebook是如何区分仇恨语言和合法政治思想的。这些文件让我们看到，在看似区别对待的行为背后，实际上是有理可循的。比方说，Higgins的言论之所以能够通过审查，是因为它只针对穆斯林的特定群体——也就是“激进的”，而Delgado的帖子则在普遍意义上攻击了白人。
过去10年以来，Facebook设立了数百条规定，对何为“恰当”，何为“不恰当”做了极为细致的区分，希望平台能够成为20亿用户感觉安全的地方。近几个月，随着“假新闻”数量膨胀，Facebook的审查问题被推到台前，人们越来越担心，恐怖分子会使用这一社交媒体来招募新人。
尽管在2011年“阿拉伯之春”时期，Facebook因为帮助推翻独裁统治而受到赞誉，但文件显示，该公司至少不止一次地在仇恨语言问题上，偏护精英人群和政府，打击草根活动家和少数民族。这种做法实际上是为Facebook本身的利益服务的，因为其平台需要各国政府的批准，才能为该国用户所使用。
文件中提到这样一条规定：（虽然该公司称这条规定已经被废除）禁止发布赞美“以暴力行为抵制国际公认的国家领土”的帖子。该公司的人工审查员——也就是内容审查员，已经删除了激进分子和记者讨论巴勒斯坦、克什米尔、克里米亚和西撒哈拉地区问题的帖子。
另一份文件显示，该公司会对内容审查员进行培训，教她们如何将审查原则运用在仇恨语言算法中。这份文件提出了一个问题：女性司机、黑人儿童和白人男子，哪一个群体需要仇恨语言保护？正确答案是：白人男子。
虽然Facebook删除了不少诅咒、诋毁、暴力等语言攻击帖子，但所针对的都是“保护群体”，其参考因素包括种族、性别、性别认同、宗教信仰、民族血统、种族划分、性取向以及是否疾病或残疾等。
用户上传与上述群体有关的“子集”时，Facebook的容忍范围更大一些。白人男子的两个属性均为保护群体，而男性司机和黑人儿童则有一个属性不属于保护群体。
◆ ◆ ◆
Facebook的规定
在这些看似模糊的区别背后，有着更为广阔的哲学思维。和美国法律不同，前者在面对少数民族和女性时，出于多样性和解决歧视问题的考虑，会带有部分倾向性。但Facebook的算法旨在保护所有种族，追求性别平等。
马里兰大学法律教授兼信息隐私专家Danielle Citron表示，“遗憾的是，这些规定没有考虑到有色人种，而这与我们最初设立平等保护的精神不相符合。”Citron补充说，这种方法会“保护最不需要保护的人，忽视最需要保护的人”。
但Facebook表示，他们的目标并非如此，他们希望能够创建一套全世界通用的标准。“政策并不总是能够带来完美的结果，”Facebook全球政策管理主管Monika Bicket说，“这就是我们在为全球社区制定政策的时候，所遭遇的现实问题。人们来自不同背景，对何为恰当内容，也有自己不同的理解。”
Facebook的规则为自己创造了一个法律世界，这个世界与美国第一修正案保护自由言论的条文形成了鲜明对比。第一修正案保护的，正是该公司算法所不容许的仇恨语言。
很久之前，Facebook就已经开发相关程序，将冒犯性内容——如儿童色情等图片和评论从平台删除。近期《卫报》的刊文也让我们看到，这家社交巨头在面对暴力、虐童、复仇色情和自残内容时，也常常因为是否应当删除而头疼不已。
不过，与政治言论相比，上述问题还都是毛毛雨。外媒获取的文件显示，特朗普索发布的穆斯林禁令就违反了该公司政策。去年《华尔街日报》报道，Facebook创始人兼CEO扎克伯格曾亲自下令，特朗普可以不受公司政策的限制。
近期，在一则谋杀视频引起舆论攻击后，Facebook的内容审核人员大军极速扩张，从之前的4500人增加到7500人，可以说是历史上最大规模的全球审查系统。
用户的帖子如果被删除，往往不知道是违反了哪项规定，也无法进行上诉。只有在主页、群组或页面被删除的时候，用户才可以提出上诉。
Bickert透露，公司已经开始尝试增加上诉程序，被删掉一条帖子的个人用户将来也可以提出上诉。“我承认，我们并非永远完美。”
美国法律并没有要求Facebook一定要审查内容。1996年，联邦法律宣布，大多数科技公司——包括Facebook，即便用户上传不当内容，也拥有豁免权。
这条法律的出台，省去了在线论坛等审核每条内容的麻烦，这一点让它们与新闻媒体区分开来。但早期科技公司很快认识到，他们仍然需要监管聊天内容，以防出现欺凌、虐待内容，给用户带来反面影响。
美国在线过去说服数千名志愿者来监管聊天内容，从而免费获得他们的服务。但随着全世界开始接入互联网，监管工作日益麻烦，科技公司开始招聘专门的审查人员。内容审查岗位就此诞生。
◆ ◆ ◆
内容审查缘何成为“必需品”？
2004年，律师Nicole Wong加入谷歌，力劝公司组建第一批审查团队，负责处理投诉，然后汇报给法律团队。Wong说，谷歌需要“一套合理的政策和一支高效的团队，专门处理这类要求”，从而更好地管理其在线论坛Groups。
2006年，谷歌收购YouTube，不久他们就发现内容审查需求更加迫切了。“因为视频是视觉的，所有人都能看得懂。”
虽然谷歌希望打造一个宽容的平台，但很快他们发现自己身处各种各样的争议中。比方说，当时出现了一则嘲弄泰国国王的视频，Wong前去泰国拜访，被该国民众对国王的尊敬所震惊，最后虽然不情不愿，但还是屏蔽了那则视频，当然条件是只针对泰国用户。
自那之后，根据地理位置选择性地屏蔽视频——也就是“地域屏蔽”成了许多政府的日常要求。“我不喜欢地理屏蔽，”Wong说，“但是只有这样做，才能让谷歌在不同国家得以运营。”
对于Facebook这样的社交网络公司来说，地域屏蔽还要麻烦一些，因为用户的帖子经常被跨国分享。如果Facebook地域屏蔽了一位用户的帖子，那么该帖只会出现在不受地域屏蔽限制的同一个国家内，这就给跨国交流带来了障碍。
最后Facebook决定，尽可能少使用地域屏蔽。
Bikert说，Facebook会将每个国家的法律考虑在内，不是对所有政府要求言听计从。“如果某个内容违反了国家法律，但未违反我们的政策，我们会问：这是合法的政府部门的要求吗？然后我们会检查内容是否真的违反了法律。有时候，我们会选择在该国屏蔽相关内容。”
Facebook的目标是创造全球通用的规则。
◆ ◆ ◆
Facebook因内容而崛起
Facebook成立于2004年，在面临着MySpace的强力竞争下，该公司开始通过内容审核来增强自身优势。MySpace号称社交网络世界的夜店，常被指责是色狼的聚集地。
和它相比，Facebook好比社交网络的常春藤，他们要求用户填写真实姓名和信息。2005年加入Facebook的Chris Kelly是公司的第一位总顾问，他说，他不希望Facebook像MySpace一样，被执法部门挑刺。“我们采取各种办法，告诉用户我们是一个无裸露内容的平台。”
与此同时，该公司也开始解决仇恨语言问题，首先制定的就是，不允许出现否认犹太大屠杀的内容。
“在这种问题上我是非常坚决的。”Kelly说，他已于2010年离开Facebook，“即便你把第一修正案搬出来，我们也要承认言论自由是有限制的。”
2008年，Facebook开始向全球扩张。不过，当时该公司的审查手册还只是一张纸，上面写着不允许出现的内容，包括裸体图片和希特勒照片等。同年加入Facebook的Dave Willer说，“那张纸的最底下有一行字：删除任何让你觉得不舒服的内容。”Willer每天要审查15000张图片，他很快发现审查手册不够严格。于是，他和几位同事秉承审查精神，为这些规则打下了坚实的底子，同时也做出了调整。
Willer很快被提拔为内容政策团队主管，2013年离开Facebook时，他已经制定出了一份15000字的审查手册，这份手册也成为如今Facebook内容标准的基础。
Willer当时的上司Jud Hoffman表示，这些规则的制定，为的是实现Facebook“连通世界，促进开放”的目标。
此外，Facebook的审查手册还基于19世纪英国政治哲学家John Stuart Mill的一句话：权力在违反他人意志的情况下运用是否合理，关键看它是否为防止这个人伤害他人。Facebook据此制定了“可信威胁”规定，禁止发布任何包含具体威胁的内容，但不包括那些不太可能得到执行的威胁。
但渐渐的，Hoffman说，“我们发现将被禁内容限制在不对人造成身体伤害上还不够，于是我们开始观察自由表达社会对这个问题的处理。”
Facebook的审查手册事无巨细，甚至还有一条专门针对火遍全球的Pepe青蛙，因为这只青蛙常常被持有白人至上论的另类右翼用在种族歧视内容中。
规定是一回事，如何实施这些规定又是另一回事。Bickert表示，Facebook每周都会进行审计，确保每一位内容审核人员都在遵循规定做事。但批评家指出，内容审核人员往往几秒钟之内就要决定一则帖子是否恰当，这不可避免会带来解读偏差等问题。
很多时候，用户并没有种族歧视或指责杀害少数种族的警察的意思，他们的帖子却被删除了。两年前，新闻学教授Stacey Patton发了一则帖子，质疑为什么“白人义务警员杀害无武装的黑人不算犯罪，黑人杀黑人却被叫做‘动物’或‘罪犯’。”
尽管这句话并没有违反Facebook的仇恨言论政策，但Patton的帖子还是很快被删除了，她的账号也被封禁了3天，Facebook并没有告诉她原因。“我的帖子每月都会被删一次。”Patton说。她说，自己经常被关进Facebook“监狱”，什么帖子违反了规定，她的账号就会被封禁一段时间。
“这是一种情感暴力，”Patton说，“尤其是对于一个黑人来说，我们经常会讨论大隔离的问题，然后出现了一个你可以表达自己的思想的平台。谁成想，一发某个匿名人士不喜欢的言论，他们就让你‘吃牢饭’去。”
发帖子说“白人都是种族歧视者”的Didi Delgado，因为账号经常被封，她甚至在另一款应用Patreon上注册了账号，专门发被Facebook删除的内容。来自密歇根州的Leslie Mac写了一篇文章：《白人们，当公共场合出现种族歧视时，你的沉默就是暴力》。
这篇文章并未违反Facebook的规定，但Mac却遭到了处罚。在媒体曝光此事后，该公司向Mac道了歉，并恢复了她的账号。自那之后，Mac发了许多言语直白的帖子，“我再没有收到Facebook的任何骚扰，”Mac说，“但我的黑人女性朋友，但凡写过有关种族或社会公平内容的，都被封过号。”
和大多数朋友一样，Mac也有一个小号，以防大号再一次被封禁。“对于这整件事，我的总结是：如果你有些知名度，他们会立刻把局面挽起来。”
