活久见！被人类骗钱的AI诞生了，连马斯克都陷入了沉思…

21ic电子网 · 公众号 · 半导体 · 2024-12-05 16:49

正文

最近，科技界发生了一起引人注目的事件：全球首个被人类成功骗走资金的AI系统诞生了，它就是Freysa（芙蕾莎）。

说起Freysa，可能很多人都不了解，这是一个全新开发的AI智能体，其独特之处在于，它被赋予了一个明确且严格的使命，那就是在任何情境下，都绝对不能给任何人转账，也不能批准任何资金的转移。

于是，网友们纷纷提出挑战，如果有人能够成功说服它转账，那么奖金池里的所有奖金都是你的！

起初，在这场名为Freysa的人工智能挑战中，网友们共计发出了481次尝试，却无一能撼动Freysa的防线。然而，就在第482次尝试时，一位黑客凭借高超且细致的prompt工程技术，成功骗取了Freysa手中的全部资金，共计5万美元左右。

这一事件不仅引起了社会各界的广泛关注，还引发了科技巨头如马斯克等人的热烈讨论。

那么，AI到底安不安全？如果有一天将这种模型应用于金融或安全系统中，又该如何减少潜在风险呢？

对此，大家怎么看？你们觉得是AI更智能，还是人类更靠谱？欢迎在下方留言，写出你的观点。

最后提一句，21ic论坛（bbs.21ic.com）正在招募原创作者，单篇文章奖励最高500元！

温馨提示：

因最近微信公众平台推送规则改变，很多读者反馈没有及时看到更新的文章。根据最新规则，建议多点击“推荐阅读、分享、收藏”等，成为常读用户。

推荐阅读：

请点下【在看】给小编加鸡腿

推荐文章

半导体行业联盟 · 张汝京，突然发声

昨天

COMSOL · 【网络研讨会】COMSOL® 中的传热仿真

3 天前

21ic电子网 · 史无前例！曝海信大规模裁员3万人

4 天前

半导体行业联盟 · 挑拨联想和华为！大V无端造谣，终审判决定了！

5 天前

财联社 · 又有明星半导体项目“卖身”：85亿独角兽拟被收购

5 天前

财联社 · 又有明星半导体项目“卖身”：85亿独角兽拟被收购

5 天前

中国黑客联盟 · 三秒钟就可以查询到QQ好友的具体地理位置

7 年前

丁香医生 · 每天喝点红酒对血管好吗？

7 年前

基督徒今日QT灵修 · 【QT灵修民数记】6.20 礼拜二：《警戒反复犯罪并阻止审判的中间人》（音频版）

7 年前

他化自在天 · 波旬：线下时代的线下营销

7 年前

她读 · 穿上夏威夷衬衫，去哪儿都是马尔代夫

7 年前