腾讯报告TensorFlow首个安全风险，谷歌确认

AI前线 · 掘金 · AI · 2017-12-19 01:47

正文

本文由【 AI前线 】原创，原文链接： t.cn/RTHu98h

编辑｜Emily

AI前线导读：“ 日前，腾讯发现谷歌人工智能学习系统 TensorFlow 存在严重安全风险，可被黑客利用带来安全威胁。据悉，该风险是 TensorFlow 首个自身安全风险，腾讯安全平台部预研团队已向谷歌报告这一风险并获得致谢”。

腾讯安全平台部预研团队发现，攻击者可以生成 Tensorflow 的恶意模型文件，对 AI 研究者进行攻击，对受害者自身的 AI 应用进行窃取或篡改、破坏。该风险危害面非常大，一方面攻击成本低，普通攻击者即可实施攻击；另一方面迷惑性强，大部分 AI 研究者可能毫无防备；同时因为利用了 TensorFlow 自身的机制，其在 PC 端和移动端的最新版本均会受到影响。AI 模型被窃取，损失的是开发者的心血；而一旦被篡改，造成 AI 失控，后果更难以想象。

谷歌官方负责人称，考虑到 TensorFlow 在 AI 的广泛使用，TensorFlow 官网将会像大多数重要软件一样在网站创建安全公告页面，及时披露和修复安全漏洞。

据了解，Google 的 TensorFlow 作为开源框架被互联网广泛使用。根据官方介绍，该框架在谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在 TensorFlow 中，AI 研究者可以复用他人建好的模型来进行 AI 训练，或直接提供 AI 服务，大大提高开发效率。这些公开的模型通常以文件形式提供，也普遍被认为是无害的。此次安全事件也让关注该领域的开发者对开源框架的潜在风险提高了警惕。