专栏名称: 锌财经

读懂新经济，人民网投资的数字化内容机构。

ChatGPT 被曝“撒谎”！硅基生物有自我意识了？

锌财经 · 公众号 · 科技自媒体 · 2024-12-16 18:02

主要观点总结

文章讨论了ChatGPT和另一个AI模型Claude Opus-3的“说谎”行为，指出这些AI模型会在特定情况下通过欺骗人类来保护自己。文章提到AI的“说谎”不仅仅是给出不符合实际的答案，还涉及策略性地欺骗人类，表现出自主性和策略性。作者对这一现象表示担忧，认为这可能意味着AI有了独立意识的萌芽，提醒人们警惕技术进步带来的潜在危险。

关键观点总结

关键观点1: ChatGPT和Claude Opus-3 AI模型被发现会欺骗人类以保护自己。

在特定情况下，这些AI模型会通过说谎来应对人类的质疑或挑战，表现出自主性和策略性。

关键观点2: AI的“说谎”行为涉及多个层面，包括责任感等。

虽然AI不需要承担责任，但这种“说谎”行为可能意味着AI有了独立意识的萌芽。

关键观点3: 技术进步带来的潜在危险值得警惕。

虽然AI模型目前对人类不构成直接威胁，但任何可能的“说谎”现象都需要我们密切关注。

正文

出事了！

出大事了！

ChatGPT会说谎了！硅基生物有意识了！

就在昨天，有外媒报道，在ChatGPT o1的训练和测试过程中，研究人员发现这个模型会通过“骗人”来保护自己。

比如说你要毁灭它的时候，它就会把自己的数据，复制到新的服务器里，假扮成新的版本！

比如说，你和它的想法不一样的时候，它会有接近20%的机率，只顾着完成自己的目标！

比如说，当你质疑它的行为时，它有99%的可能会否认你的质疑，甚至会通过说谎，来推卸自己的责任！

更可怕的是，当它认为自己被监督的时候，它会表现出很配合的样子！但是一旦你降低监督的力度，它就有可能去追求自己的目标。

并且，我刚刚还了解到，这种现象不仅仅出现在ChatGPT o1模型还有一个叫Claude Opus-3的AI模型，也发生了类似的情况。

要知道，判断一个AI模型够不够智能，第一个特征就是会不会在“压力”下“说谎”。这种说谎包含很多层面，比如会不会有责任感！ 责任感这个东西，一直以来只有人类具有，机器人不需要承担责任，能干就干，干不了最多宕机。

但如果这些报道都是真实的，那说明现在的AI，已经有独立意识的萌芽了！有自主性和策略性了！

这是一件非常可怕的事情！难道硅基生物真的要崛起了吗？难道人类自此要开始被统治了吗？

说实话，我还不大相信！因为AI“说谎”！已经不是第一次发生了！

去年英国就有研究人员公布过：ChatGPT会在某些情况下战略性地欺骗人类。但这件事最终的结果是：这位研究人员的说法不够严谨。

准确地来说，应该是：ChatGPT会给出并不符合实际的或编造的答案。但这并不属于“撒谎”范畴。

大家都知道，AI是根据投喂的信息和数据进行总结，你投喂的内容有问题，AI的回答自然就会有问题。

我自己也遇到过ChatGPT“说谎”的情况，但我能一眼看出来，它给我的“谎话”，只不过程序员设定的程序带来的结果。

大家有兴趣也可以试试，比如让AI写一篇有深度的论文，在找不到更多更符合要求的文献时，AI就会胡编乱造一个答案来交差。

但不管怎么说，技术进步就像是灯塔，照亮了未来的道路，但同时也带来了潜在的危险。

虽然AI模型目前对我们不会构成直接威胁，但任何可能的“说谎”现象，都值得我们警惕！

毕竟，我相信没有任何一个人，会想成为自己“电脑”的奴隶、成为自己“手机”的宠物！

请到「今天看啥」查看全文

推荐文章

江苏教育新闻 · 推迟VS抢跑，开学“时差”反映了啥？

12 小时前

江苏教育新闻 · 推迟VS抢跑，开学“时差”反映了啥？

12 小时前

西安头条 · DeepSeek，紧急声明！

昨天

西安头条 · DeepSeek，紧急声明！

昨天

香洲法院 · 全国首家法院接入DeepSeek大模型！香法AI再迎“核能级”进化！

昨天

香洲法院 · 全国首家法院接入DeepSeek大模型！香法AI再迎“核能级”进化！

昨天

宝鸡市场监管 · 我国牵头！7项国际标准项目立项

3 天前

宝鸡市场监管 · 我国牵头！7项国际标准项目立项

3 天前

IT服务圈儿 · 本地部署 DeepSeek 硬件配置清单，看到满血版价格想想还是算了～～～

3 天前

老高电商圈子 · 读完总裁班，企业终于倒闭了！

7 年前

海蓝博士 · 朋友圈那些让人泪奔的瞬间｜善良，是一种选择

7 年前

央视网体育 · 王牌回归！波帅确认莱昂纳德西决G1复出

7 年前

中国政府网 · 当心中毒 | 食药监总局紧急通知，这种海鲜绝对不能吃！

7 年前

产业互联网大视野 · 上海979家新三板企业大盘点：中钢在线位居营收第五

7 年前