Facebook 要用 AI 提前探测恐怖主义，到哪一步了？

自从被外界批评不足以应付极端主义之后，Facebook 发言人周四首次向外公布使用 AI 来遏制和消除恐怖主义内容的进展情况。

Facebook 全球政策管理总监 Monika Bickert 和反恐怖主义政策经理 Brian Fishman 日前在一篇文章中表示，Facebook 将利用 AI 来检测有关恐怖主义的视频或内容信息。在发现之后，Facebook 将立马删除相关内容，以阻止它们出现在网站上。

“目前，我们正集中利用 AI 的先进技术都打击与 ISIS、基地组织及其相关的恐怖主义内容。在适当的时候，我们希望能将其扩及其他恐怖组织。”Facebook 两位发言人对此表示，“当有人试图上传恐怖照片或视频时，我们的系统会将其与 ISIS 的宣传视频或者在 Facebook 上出现的其它极端图片和视频进行自动匹配，一旦匹配符合，则会立马删除这些内容。”

除此之外，Facebook 还在进行相关实验，对网站上恐怖分子可能使用的语言进行解析。对此前被 Facebook 禁用的账户，Facebook 也将加紧它们被重新启用的管控，并在线识别和删除恐怖主义支持者群集。Facebook 还表示，准备扩大技术的应用范围，用在其它 App 中，包括 WhatsApp 和 Instagram。

然而在反恐问题上，技术还不能完全解决问题，还需要人工来处理一些特定状况。雷锋网了解到，Facebook 为此还成立了反恐团队，该部门目前已有 150 名人员，职位有检查官、工程师、执法人员不等。同时，Facebook 还与其它一些机构和组织合作，也会定期与执法机关和政府合作。据雷锋网了解，去年 12 月，Facebook 与其它科技企业合作，包括 Twitter、微软、谷歌旗下 YouTube，创建了一个行业数据库，以记录恐怖分子的数字指纹。

就在 5 月初，Facebook 还向外透露，明年将雇佣 3000 + 的员工，以处理网站上出现的不良内容，还将加大力度删除涉及谋杀、自杀及其它暴力行为的视频。 在这个宣告之前，一名凶手利用 Facebook 直播了杀人过程，该事件性质极其恶劣，也将 Facebook 推向了风口浪尖，外界又一次对其在极端主义事件的无力进行了讨伐。

距离上一次的讨伐，尚不足一年，不过上次讨伐的地点直接出现在法庭上。雷锋网查阅的资料显示，去年 7 月，在一起恐怖主义袭击案中，受害人代表律师以 “Facebook 允许隶属于恐怖组织哈马斯的巴勒斯坦激进分子使用其服务来策划恐怖袭击活动，造成 4 名美国人丧生和 1 名美国人受伤的惨剧” 为由，将 Facebook 告上了法庭，并向其提出 10 亿美元的赔偿。

虽然在该起案件中，Facebook 被起诉的理由在法律上站不住脚，但这也推进了 Facebook 对反恐的重视和投入。于是，就有了今日 Facebook 发言人向外宣布的进展和成果。

值得注意的是，随着社交媒体影响力的扩大，Facebook 目前的月活用户已接近 20 亿。如此量级，必然会滋生内容审查上的诸多问题。更别说还有许多假新闻、暴力、谋杀等内容。

当然，选择用 AI 技术对恐怖主义内容进行图片匹配，已经是扎克伯格在 2 月份发布的 Facebook 前景信中的一个进展。当时，扎克伯格称，Facebook 正在研发 AI 系统，可自行阅读文本、查看照片和视频。但该系统当时还处在发展初期，尚有一些潜在问题。

以此为例，我们能看到 Facebook 利用 AI 解决反恐的步调和决心，这也将激发其他科技巨头在这一块的行动。正如那句话所说，科技发展的终极是让世界变得更加美好。