来源：差评/头条号
大家有没有听说过 “ 机器人三定律 ”？
对，就是科幻作家阿西莫夫的《我，机器人》这本科幻集里面的机器人守则~
根据《我，机器人》改编的同名电影
在小说中，每个机器人都必须遵守以下三个定律：
一、机器人不得伤害人，也不得见人受到伤害而袖手旁观。
二、机器人应服从人的一切命令，但不得违反第一定律。
三、机器人应保护自身的安全，但不得违反第一、第二定律。
后来阿西莫夫还加了第零定律：
零、机器人不得伤害人类整体，或因不作为使人类整体受到伤害。
虽然这几条定律一直被科幻迷们奉为机器人圣经，乍一看也非常有道理，不过其实这里面埋了很多悖论。。
譬如如果一个机器人看到有两个人在打架，它该怎么做呢？帮也不是，不帮也不是。。
何况，以现在的机器人技术，貌似离着理解三定律的水平远着呢！
一个喂食机械臂。。
不过，科技的发展一日千里，不知道明天会有什么爆炸新闻出来。。
AlphaGo Zero 自学成才，经过三天的训练就打败了击败李世石的 AlphaGo Lee 版本，四十天打败击败柯洁的 AlphaGo Master 版本。。
从李世石被打败的不可置信，到对 AlphaGo 升级换代也见怪不怪，大众只知道算法在不断地被刷新，越来越强，在人类智力最后的堡垒——围棋上，人再也耍不过机器了。。
相对于人工智能的飞速发展，相关的标准法规却差的很远，可以说近乎没有~
举个例子，前几天看到个新闻，说已经有初创公司制造了《战狼2》里面的杀人无人机，可携带半自动化步枪和榴弹发射器进行定向打击，它获得了美国国防部创新奖，国际上好多军队也对它十分感兴趣~
怪不得一众科技大佬都跳出来警告大家：AI可能会毁了人类！
马斯克更是说发展 AI 就是在召唤恶魔，必须从国家和国际层面上监管人工智能领域~
虽然扎克伯格就 AI 威胁论跟马斯克撕了好几回，不过某些标准必须要被建立确实说到人心坎里了~
这两天，终于有一个权威的组织发布了世界上第一款人工智能伦理标准！
这个组织就是 IEEE ！工学学术圈的人们肯定对它十分熟悉~
多少莘莘学子就靠着它旗下期刊的录用通知书得以毕业。。不说了，都是泪
这个 IEEE 全称是 Institute of Electrical and Electronics Engineers，也就是电气电子工程学会。
全世界参与这个协会的会员超过了160个国家，40万科研人员，它不仅拥有全世界电子和电气还有计算机科学领域30%的文献，另外它还制定了超过900个现行工业标准，具有电气领域最专业的标准工作委员会~
著名的网络标准802系列
标准是个好东西，有了标准，全世界各个国家的东西才能通用。
因此，这么个组织公布了人工智能标准，想必大家是最服的~
IEEE 成立了一个“ The IEEE Global Initiative ”项目。。
这个项目旨在为人工智能和智能系统（ AI / AS ）制定道德原则，这些原则表现为：
一、体现人权的最高理想。
二、优先考虑对人类和自然环境的最大利益。
三、人工智能和智能系统发展成为社会技术系统，减少风险和负面影响。
接下来，IEEE 协会将会集结领域内各种专家在以下几个方面进行标准制定，并且会随着科技发展不断补充不断完善~
在人权方面，人类的
福祉，权利，和自由是 AI / AS 发展的核心。机器人必须要服务于人，没有其他形式！
国内首例机器人伤人元凶↓↓
同时要确保人工智能在工业和农业领域的繁荣做出积极贡献~
要界定好 AI 是否有判别，收集，调用，管理甚至使用人类个人隐私的权限。
要制定自动化武器系统的使用和制造原则，坚决反对这些武器的滥用。。
还有要考虑人工智能对全球经济和生态系统的影响。。
电影《 全球风暴 》截图
（全球风暴讲述了一个控制地球天气的人工智能失控对地球造成了灭顶之灾的故事）
IEEE 还会制定自动和半自动系统的故障安全设计标准，特斯拉们带起的自动驾驶风潮也终于有了一套标准，以后自动驾驶事故的判定应该会更加容易吧~
这些标准虽然没有什么法律效应，但是这也算是一种人类对人工智能发展的反思。
一个新生事物是需要野蛮生长的，但凡事总要有规矩。
不然现在各大巨头公司还有各国分立各做各的，以后可能不通用不说，要是哪家一个不小心搞出来个天网，岂不是大家要一起坐核弹上天了？。。。
关注EETOP公众号，后台输入：百宝箱，查看更多AI相关：
10分钟！用初中数学知识看懂深度学习！
AI芯片|浅析Yann LeCun提到的两款Dataflow Chip
走进深度学习，你需要先了解这25个概念和术语...
AI芯片踏入红海
解读AI：快速获取样本将成重点研究方向
机器学习和深度学习的最佳框架大比拼
深入浅出机器学习
机器学习和深度学习的最佳框架大比拼
哪些国家和大学人工智能研究领先？中国第一？
人工智能的“脑洞”有多大？院士：目前太依赖计算
浅说深度学习：核心概念
深度学习简易入门
几张图读懂机器学习：基本概念、五大流派与九种常见算法
通过生活案例读懂机器学习五大算法思维
腾讯云FPGA的深度学习算法
如何在单块GPU上训练超大型深度学习模型
AI芯片怎么降功耗？从ISSCC2017说起
AI驾临人间 四大芯片流派华山论剑
机器学习追根溯源：和计算机技术一样久远
[透析] 卷积神经网络CNN究竟是怎样一步一步工作的？
中国正在引领人工智能？纽约时报说：“是的！”
Nvidia是如何成为AI圈的弄潮儿
人工智能芯片: AI巨轮的引擎
李开复|如何给非专业人士讲解什么是深度学习
神经网络入门
从人工智能能机器学习到深度学习，不容错过的人工智能简史
浅析：人工智能的前沿—机器视觉的种类
浅析深度学习
在机器学习中机器是怎么从资料中「学」到东西的？
12张图生动地告诉你，深度学习中的卷积网络是怎么一回事？
从人工智能机器学习到深度学习，不容错过的人工智能简史
【高盛AI研究报告】人工智能是时代的拐点
一文带你理解深度学习的局限性
无解的神经网络内在逻辑
FPGA是如何实现30倍速度的云加速的？都加速了哪些东西
深度学习 语音识别 FPGA 实现
2017年人工智能行业分析：芯片企业最少，计算机视觉与图像企业数量最多
关于人工智能的七大常见误解与七个真相！
一个故意不通过图灵测试的人工智能-Part 1
最适合人工智能开发的5种编程语言
一文说清楚机器学习、深度学习、人工智能的区别与联系
机器学习与人工智能究竟有何区别？
机器学习算法比较
云中的机器学习：FPGA 上的深度神经网络
什么是机器学习?
机器学习导入芯片设计领域
AI技术大爆发背景下，开源深度学习框架的发展趋势如何？
中国初创公司在AI芯片（IP）领域的机会
深度学习简易入门
浅谈Alpha Go所涉及的深度学习技术
深度学习 语音识别 FPGA 实现
点击阅读原文查看更多
