硬创公开课预告：
今晚 8 点，雷锋网邀请到峰瑞资本早期项目负责人、技术合伙人覃超，对 F8 主旨演讲进行点评和解读，详情请看文末介绍。
雷锋网按：
在北京时间今天凌晨开幕的 Facebook 年度开发者大会 F8 上，创始人扎克伯格在开幕演讲中，向 Facebook 直播谋杀的受害者表达了慰藉。此事在网络上传播甚广，其中一个争议的焦点是 Facebook 在事发两小时后才将视频移除。在直播和各类视频内容爆炸的年代，及时识别出用户上传的不良内容，同时又不损害用户体验，成为各大平台面临的一道技术难题。针对这个问题，人工智能成为良策，但现在也没有达到完美，国外媒体 Wired 就撰文进行了分析，雷锋网对文章进行了编译。
上周日，Steve Stephens 在 Facebook 上传了一个 57 秒视频，视频中他杀害了一名男子后自杀。该视频在他的 Facebook 主页上挂了两个小时后才被 Facebook 识别后删除。但是这两个小时已经足够让数千人在 Facebook 上分享这个视频，让各种第三方网站下载该视频并重新上传给他们的用户。
整个事件重新燃起了一项关于社交媒体的激烈辩论：社交媒体公司究竟应该怎么做才可以防止他们的网页上出现不良内容？并且，一旦不良内容出现，就无法避免它被保存和传播到网络的各个角落。所以社交媒体企业应该如何将不良内容直接扼杀在摇篮里？
防止一个视频在网络上公开的最佳方法就是在它第一次上传时进行阻止。Facebook 可以通过很多步骤实现该方法，例如他可以坚持人工审查核准每一个视频的上传。但是这并不现实，因为这会使大批喜欢实时分享生活的用户离开 Facebook，公司并不能承担这样的风险。
另一个方法是，Facebook 可以在不良视频公布时立刻删除它，但是这又会出现另一个问题：即时精准定位和删除图像材料在技术上还无法实现。技术算法还无法达到自动筛选并删除的能力，而雇佣大量人员手动处理也并不现实。但如果 Facebook 授权算法直接删除视频，一定会发生不可避免的错误。就算是 Facebook 可以根据其服务条款给予算法这样的权力，公司也会因为审查问题被指控。这样的影响是巨大的，因为没有人喜欢自己的视频因为算法的错误而被删除，而用户的不信任问题也是 Facebook 根本无法承担的风险。
因此，Facebook 目前采用的是多管齐下的解决方法。任务前端是 Facebook 的用户，公司根据用户对视频的浏览和标记来跟踪不良视频。利用一些人工
智能
算法，挑选出潜在的不良视频（如儿童
色情
等）。此类视频被标记后，会送到 Facebook 的内容审查部门，该部门有上万人每天观看数小时的视频，人工决定视频是否被删除。这个系统还很不完善，但是目前，人工审查仍然比 AI 技术靠谱的多。
但是最终，AI 识别不良视频会变得越来越有效，人类会与 AI 合作作业，而不是被 AI 所代替。Facebook 人工智能搜索的主管 Yann LeCun 说：“我认为，只要有足够的数据训练，我们是可以实现这一技术的。” 尽管他没有回答周日杀人视频的处理细节，但是他表示 Facebook 未来会做的更好。对 Facebook 来说，用 AI 实时监控视频，识别杀人凶手的技术完全可以实现，只是还不是现在。
上传杀人视频的 Stephens
现在还不是时候
理想情况下，Facebook 可以这样解决 Stephens 的视频：当他第一次上传说明他想要杀人的视频时，AI 软件就应该立即 “看过” 该视频，并将它标为优先级别。接着优先级的标识会触发 Facebook 人工审核部门的警报，迅速开始人工审查视频内容，发现直接危害，删除该视频，关闭 Stephens 的账号，通知有关部门。
但是现实并不是这样。根据 Facebook 全球运营副总裁 Justin Osofsky 昨天发表的声明称，最初上传的视频并没有被标识，第二个视频，也就是有谋杀者自己的视频是在 Stephens 上传超过一个半小时后才被标识了出来。Osofsky 说，只要有用户将危险视频标识出来，Facebook 的审查部门在 23 分钟内就可以将该视频从网站中删除。
但是问题仍然是，如何让这个程序迅速反应立即处理。人工智能目前还无法识别出第一个视频中的危险因素，甚至对第二个视频中出现的谋杀者也无能为力。为了让 AI 介入谋杀，AI 必须首先能够处理 Stephen 的语言，分析他的语音语调，分辨他说到杀人时究竟是开玩笑还是真正想法。LeCun 说：“确实有这样的技术，但是目前还不清楚将该技术整合进
