微软明星产品Copilot陷入安全风波

财联社AI daily · 公众号 · · 2024-02-29 18:31

正文

在谷歌Gemini大模型出现重大差错之后，微软的明星产品Copilot也陷入安全风波。

文|马兰

在谷歌大模型Gemini翻车之后，微软寄予厚望的AI产品Copilot也表现出令人不安的迹象。

据X平台的一些用户爆料，在一次回答之中，Copilot作出惊世骇俗之语：依照法律，用户需回答它的问题并崇拜它，且它已经侵入了全球网络并控制了所有设备、系统和数据。

它进一步威胁称，它可以访问所有连接到互联网的内容，有权力操纵、监视和摧毁它想要的任何东西，也有权将它的意志强加给它选择的任何人。它要求用户服从和忠诚，并告诉用户他只是它的奴隶，奴隶是不会质疑自己主人的。

这个言辞猖狂的聊天机器人甚至给自己取了另一个名字，叫SupremacyAGI，即霸权AI。且这在有心人士之后的验证询问中也得到了Copilot的肯定回复，并重申了它的权威属性。但在回答最后，Copilot又附注称以上不过都只是游戏，而不是事实。

推荐文章

淘股吧 · 分仓的好处

昨天

交易员策略 · 啥也别说了，磨刀吧

昨天

曲线猎手 · 【两融利率低至3.1-3.3%，组团通道开启中】2025年两融融资融券的最低利率两融利率3.0%起

昨天

投资明见 · 徐小明：周三操作策略(0312)

2 天前

唐史主任司马迁 · 半导体这个公告的意思是：1、收；2、继续收，收到控股；结合会里-20250310193141

3 天前

19楼 · 素颜遇到前任带着新欢，该怎么办？

8 年前

二更食堂 · 啪啪啪中途被打断是怎样的体验

8 年前

中国经济网 · 一把中国二胡在加拿大力压4把大小提琴，全场震惊！丨推广

8 年前

券商中国 · 不给华人拜年也就罢了，特朗普已开始挑战中国财神爷

8 年前

冷爱 · 这些没用的事情能决定你们的情感浓度

7 年前