即日起，GeekPwn 联合 Next Idea，机器之心作为独家人工智能协办机构正式启动 10.24 上海·硅谷 GeekPwn 2017 嘉年华的招募，以 500 万的奖金池向全球顶尖 AI 安全极客发出邀请函，从对抗的思路出发，创办人工智能安全挑战赛是为了寻找 AI 潜藏的风险并不断帮助其完善，帮助人工智能安全健康成长。
当越来越多的领域被人工智能所解构和颠覆，艺术曾被认为是人类抵抗人工智能的最后一道防线。但随着谷歌的 Project Magenta 利用机器学习能写诗会作曲，荷兰 ING 团队携手微软通过让机器自主学习所创作出的肖像画与伦勃朗的作品在风格上相差无几，AI 与日本知名创意总监 Mitsuru Kuramot 所做的广告创意难分伯仲…艺术也似乎在被人工智能一步步拉下神坛。这是否就意味着在步步紧逼的人工智能面前，人类的智慧已束手无策？人类终将会被人工智能所取代？也许，在人工智能面前能帮人类扳回一局的，是黑客。
AI 可能会掉进黑客精心谋划的「骗局」
人工智能与黑客的过招，早在国内外有各种实践。与其称他们为黑客，不如说他们更像活跃在人工智能各个领域的魔术师，用障眼法等手段，蒙蔽、欺骗、诱导人工智能出现「失误」。AI 在目前发展阶段的错误和不完善，用黑客思维理解，就会变成可以利用的漏洞。
2016 年，卡内基梅隆大学的研究团队凭借一副特制的花哨眼镜框，成功骗过商用级 AI 脸部识别软件，让摄像头前的人显示成为另一个人。
上面是真人，下面是面部识别系统识误认的人
再试想一下，当无人驾驶的汽车被施了障眼法，它还会在马路上安全行驶吗? 早在 2015 年，美国安全研究员 Jonathan Petit 发现，通过弱激光和脉冲发射器装置伪造一些实际并不存在的障碍物，可以对无人驾驶汽车进行干扰，使无人驾驶汽车不断躲避伪造障碍物而变得寸步难行。
近期，有研究者发现，恶意攻击者可以欺骗 Google 的 CloudVision API，这将导致 API 对用户提交的图片进行错误地分类，网络犯罪分子可以利用这种技术来传播暴力图片、色情图片或恐怖主义宣传图片。
在人工智能领域，深度学习依赖对大量样本进行学习，最后产生决策的过程，和安全领域里通过产生大量模糊测试样本引发计算机异常，从而发掘出漏洞，最终执行流程可以被改变，进而导致安全危害的过程非常相似，如果说正确样本能够产生正确的决策，那么黑客通过离线模拟产生的 AI 攻击样本，则可能给人工智能带来错误的决策和行为。
未雨绸缪 帮助人工智能安全健康成长
如今，人工智能已经广泛应用于生活的诸多场景中，包括实时语音翻译、目标识别、自动驾驶等等。率先关注到人工智能可能暴露出的诸多风险，GeekPwn 实验室在 2015 年底开始了 AI 对抗的研究，并广泛接触和招募 AI 领域的顶尖人才，很快，在 2016 年的 GeekPwn 美国站上，生成对抗网络 (GANs) 之父 Ian Goodfellow 就展示了「对抗性图像」在现实物理世界欺骗机器学习的效果。原始图像以 60% 的置信度判断为「熊猫」，但是加入了微小的干扰，在人眼完全看不出差别的情况下却以 99% 的执行度归为了长臂猿。
「GANs」之父 Ian Goodfellow 在 GeekPwn2016 硅谷站分享图像对抗欺骗
在 GeekPwn2016 上海站，师从吴恩达的 Clarence Chio 现场展示了通过对抗性攻击，触发机器学习的模型，让它做出错误的决策，并演示了如何使用一个 DEEP-PWNING 的框架成功欺骗一个图像识别系统。
500 万奖金池 正式向全球 AI 安全极客发出英雄帖
AI 在图像领域存在被欺骗的可能性，让 GeekPwn 预见到这种可能性在其他语音和行为智能等领域也会存在。即日起，GeekPwn 联合 Next Idea 及独家人工智能协办机构机器之心正式启动 10.24 上海·硅谷 GeekPwn 2017 嘉年华的招募，以 500 万的奖金池向全球顶尖 AI 安全极客发出邀请函，从对抗的思路出发，创办人工智能安全挑战赛是为了寻找 AI 潜藏的风险并不断帮助其完善，帮助人工智能安全健康成长。也许有朝一日，黑客可以成为保护人类的那群人。
2017 年 GeekPwn 人工智能安全挑战赛将分为 PWN AI 与 AIPWN 两部分。PWN AI 是将 AI 作为挑战对象，人工智能算法会因选手影响而做出错误判断。简单来说就是利用 AI 中存在的错误和不完善，「黑掉」它。而 AI PWN 则是将 AI 作为工具，选手利用 AI 技术实现对于指定目标的攻击，引导其犯错。简单来说就是让 AI 成为你攻击的助手。此外，技术并不是此次结果评选的唯一维度，脑洞大开的程度和酷炫的演示效果同样会影响评分及奖金。
远程操控特斯拉、用鼻尖解锁手机、任意远程劫持世界任一用户的通讯、发现影响全球数亿网民的骨干网络设备漏洞…………创办于 2014 年的国际安全极客大赛 GeekPwn，白帽黑客们将他们的逆向思维、奇思妙想的脑洞发挥到了极致，在向世界展示他们才华的同时，也帮助了上百个厂商及产品去修复安全问题。
10 月 24 日，上海·硅谷 GeekPwn 2017 嘉年华，人工智能与黑客，将触碰出怎样的火花？黑客，曾被视为人工智能的软肋，如今有机会成为保护人工智能的铠甲，那个人会是你吗？
官方报名网址（点击阅读原文）：
www.geekpwn.org
PWN AI
目标范围
对于已发布的 AI 服务、产品、库、框架（主要指 Tensorflow、TorchNet、Caffe 等流行框架），采取手段使得在学习或者实际使用中，发生意外情况导致系统停止工作或系统被欺骗、误导，做出违反常规或者错误的判断、决策。方向包括但不限于图像识别、语音识别、自然语言处理、自动驾驶、恶意软件识别等。
参考实例
AI PWN
场景
选手以 AI（包括图像，语音，自然语言，自动驾驶等各个领域的各种人工智能方法）作为主要或者辅助手段，突破原有系统设定的限制，导致目标系统的功能、机制失效或者信息泄露。
参考实例
用人工智能的方法进行语音合成，生成目标模拟对象的语音并以高的概率通过语音身份验证系统。
用人工智能的方法进行动作的判别，从视频中识别出门禁密码输入并达到较高的正确识别概率。
用人工智能的方法识别复杂的机器验证码，正确识别率较高，使得目标验证码机制失去作用。
报名截止时间
2017 年 9 月 24 日
报名参赛过程中有任何疑问，请发送邮件至：[email protected]
