“智慧赋予权力。那么谁来控制这种权力呢？
世界领先的人工智能先驱之一警告说，日益强大的技术不仅可能危害世界，而且掌管这项技术的人也可能同样危险。
在接受CNBC采访 时，计算机科学界泰斗 Yoshua Bengio 表示，精英技术“边缘”成员希望人工智能取代人类。
Bengio 是蒙特利尔大学学习算法研究所的负责人，也是OpenAI 顶尖人工智能研究人员撰写的“警告权”公开信的公开签名者之一，这些研究人员声称，他们被禁止公开谈论该技术的危险。他与著名专家 Yann LeCun 和 Geoffrey Hinton 一起被称为“人工智能教父”。
“智能赋予力量。那么谁来控制这种力量呢？”这位杰出的机器学习专家在蒙特利尔举行的 One Young World 峰会上告诉媒体。
“有些人可能想滥用这种权力，有些人可能乐于看到人类被机器取代，”本吉奥声称。“我的意思是，这是一种边缘现象，但这些人可以拥有很大的权力，除非我们现在设置正确的护栏，否则他们就可以这样做。”
金钱万能
这位深度学习专家指出，由于建立人工智能系统耗资数十亿美元，因此财力因素不容忽视。
“很少有组织和国家能够做到这一点，”蒙特利尔大学人工智能实验室负责人说。“事实已经如此。”
“权力将会集中：经济权力可能对市场不利；政治权力可能对民主不利；军事权力可能对地球的地缘政治稳定不利，”他继续说道。
目前，专家们对通用人工智能或人类水平的人工智能能否实现以及何时实现存在分歧。Bengio 认为，如果在全球政策跟上之前实现通用人工智能，我们就有麻烦了。
“如果是五年的话，我们还没有准备好，”他总结道，“因为我们没有办法确保这些系统不会伤害人类或者不会攻击人类。”
虽然 Bengio 并不是第一个对人工智能的危险发出警告的人工智能专家，但他却有着不同寻常的威严；毕竟，他参与了人工智能的创造。
阅读最新前沿科技研究报告，
欢迎
访问欧米伽研究所的“未来知识库”
未来知识库
是“
欧米伽
未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。
目前拥有超过8000
篇重要资料。
每周更新不少于100篇世界范围最新研究
资料
。
欢迎扫描二维码或点击本文左下角“阅读原文”进入。
截止到11月25日 ”未来知识库”精选的100部前沿科技趋势报告
-
Air Street Capital《2024 年人工智能现状报告》
-
未来今日研究所：2024 技术趋势报告 - 广义计算篇
-
科睿唯安中国科学院 2024 研究前沿热度指数报告
-
文本到图像合成：十年回顾
-
《以人为中心的大型语言模型（LLM）研究综述》
-
经合组织 2024 年数字经济展望报告加强连通性创新与信任第二版
-
波士顿咨询 2024 全球经济体 AI 成熟度矩阵报告
-
理解世界还是预测未来？世界模型的综合综述
-
Google Cloud CSA2024 AI 与安全状况调研报告
-
英国制造商组织 MakeUK2024 英国工业战略愿景报告从概念到实施
-
花旗银行 CitiGPS2024 自然环境可持续发展新前沿研究报告
-
国际原子能机构 2024 聚变关键要素报告 - 聚变能发展的共同愿景
-
国际可再生能源署 IRENA2024 年全球气候行动报告
-
Cell: 物理学和化学 、人工智能知识领域的融合
-
智次方 2025 中国 5G 产业全景图谱报告
-
未来今日研究所：2024 技术趋势报告 - 移动性，机器人与无人机篇
-
Deepmind：AI 加速科学创新发现的黄金时代报告
-
PitchBookNVCA2024 年第三季度全球风险投资监测报告
-
德科 2024 年未来全球劳动力报告
-
高工咨询 2024 年协作机器人产业发展蓝皮书
-
国际能源署 IEA2024 年全球能源效率报告
-
基因慧基因行业蓝皮书 2024 - 2025
-
普华永道 PwC2024 全球经济犯罪调查英国报告 - 智对风险直面挑战
-
中国互联网协会 2024 面向未来网络的数字孪生城市场景应用白皮书
-
中移智库 2024 先进感知新技术及新应用白皮书
-
智次方研究院 2025 中国 AIoT 产业全景图谱报告
-
未来今日研究所：2024 技术趋势报告 - 人工智能篇
-
国际电联：迈向衡量数字经济的通用框架的路线图
-
联合国粮食与农业组织：2024 年世界粮食安全和营养状况
-
大语言模型综述
-
李飞飞等，AI 智能体：探索多模式交互的前景综述
-
哈尔滨工业大学 - ChatGPT 调研报告
-
2024《美国核部署战略报告》最新文件
-
清华大学：AIGC 发展研究 3.0 发布版 b 版
-
OpenAI：2024 年 OpenAI o1 大模型技术报告
-
Verizon2024 年世界支付安全报告
-
皇家学会哲学学报 从复杂系统角度评估人工智能风险
-
复旦大学 大模型 AI 代理的兴起和潜力：综述
-
经合组织 OECD2024 年气候行动监测报告
-
Wevolver2024 年边缘人工智能现状报告 - 探索各行业边缘 AI 应用动态
-
2024 全球人形机器人产品数据库报告 - 人形机器人洞察研究 BTIResearch
-
《全球金融稳定报告》 把舵定航 不确定性、人工智能与金融稳定
-
瑞士洛桑联邦理工学院 《人工智能中的 - 创造力：进展与挑战》
-
《你所需要知道的理 - 论：人工智能、人类认知与决策》牛津大学最新 53 页报告
-
世界经济论坛 新兴技术时代的网络弹性导航：应对复杂挑战的协作解决方案 2024
-
ADL 理特咨询 2024 汽车出行未来展望报告
-
2024 中国硬科技创新发展白皮书 - 开辟未来产业新赛道
-
科学时代的大语言模型中的人工智能
-
Gartner2025 年重要战略技术趋势报告
-
CBInsights2024 年第三季度全球人工智能投融资状况报告
-
TrendHunter2025 年全球趋势报告 - 全行业顶级创新和变革趋势前瞻
-
天津大学 2024 大模型轻量化技术研究报告
-
欧洲海洋局 2024 导航未来报告将海洋置于更广泛的地球系统中第六版
-
美国安全与新兴技术中心 2024 AI 生成代码的网络安全风险研究报告
-
国际原子能机构 2024 年世界聚变展望报告
-
复旦大学 2024 大语言模型的能力边界与发展思考报告
-
安盛 AXA2024 年气候与生物多样性报告气候过渡计划路线图
-
YouGov2024 美国公众对人工智能 AI 的态度调研报告
-
麦肯锡中国报告：《中国与世界》完整版
-
麦肯锡全球研究所 2024 下一代竞技场报告 - 重塑全球经济的 18 个新兴行业领域
-
Project Sid，一个旨在模拟多智能体交互以研究 AI 文明的项目
-
德国研究与创新专家委员会 德国研究创新与科技成果报告
-
2024 年欧洲关键产业的科技重塑研究报告
-
智能体专题报告之二 - 智能体时代来临具身智能有望成为最佳载体
-
ActivateConsulting 2025 年顶级技术和媒体发展趋势报告
-
兰德 全球灾难风险评估
-
斯坦福李飞飞 《AI agent 综述》Agent AI 开启多模态交互新纪元
-
中国联通研究院 2024 中国生成式人工智能应用与实践展望白皮书中文版
-
普华永道 2024 第五次工业革命研究报告迈向弹性可持续和以人为本的未来
