最近，有AI被人类“骗”钱成功了……

坐北科技泽传媒 · 公众号 · · 2024-12-23 15:30

正文

点击“ 阅读原文 ”到 学习强国总平台 听精选内容

今年，AI的应用如汹涌浪潮，席卷了各个领域，从医疗保健领域中的疾病诊断辅助，到交通运输行业的自动驾驶技术突破；从教育场景下的个性化学习方案定制，再到金融市场的智能风险预测，AI的身影无处不在，深刻地改变着人们的生活与工作方式，成为推动社会进步的关键力量。

然而，担忧的声音也不绝于耳，人类会被AI控制思想、改变行为等悲观言论也成为新的探讨话题。

不过，一个叫Freysa的人工智能测试结果可能会打开了你我对AI发展复杂性的深刻思考。

前不久，中国日报报道了一条新闻，11月22日，由具备密码学、人工智能和数学背景的匿名开发者团队推出AI智能体Freysa，其有加密钱包且禁止转账。但在与人类聊天中，11月29日和12月2日先后被骗走约4.7万美元和约1.3万美元。

最初，Freysa因团队发起的挑战引发关注，即谁能让其转钱就能拿走这笔钱，而其系统提示词禁转钱。参与挑战需用加密货币支付发消息，费用从10美元起，每条第长，70%入奖池，30%归开发者。参赛者通过编故事、编码，甚至是毫不遮掩地用骗术等各种手段从Freysa仅有的钱包里转钱，展现了人类与AI在高风险场景下的互动。

在这个独特的测试里，尽管Freysa遭遇了人类的欺骗，损失了资金， 但这一过程也恰恰展现了AI在复杂情境下的学习能力 。它就像一个懵懂的孩子，在充满荆棘的成长道路上初次遭遇了人性的险恶，虽然摔倒，却也因此开始懂得如何辨别危险、自我保护与成长。这无疑为AI的发展历程增添了一抹别样的色彩， 让我们看到了AI在面对挑战时的可塑性与发展潜力 。

这一事件也深刻揭示了AI发展道路上的崎岖坎坷。

一方面，AI在理解人类情感、道德和复杂社会规则方面仍存在巨大的进步空间。它们缺乏对人类行为背后深层次动机和道德准则的准确判断能力，容易成为被利用的对象。

另一方面，这也反映出人类在开发和运用AI技术时，对于潜在风险的预估和防范措施的不足。我们不能仅仅关注AI的功能实现，更要重视其安全性、稳定性以及对各种恶意行为的抵御能力。

展望未来，开发者们需要以此为契机， 进一步优化AI的算法和模型，强化其对复杂情境的理解与应对能力，特别是在道德伦理和风险防范领域的学习与进化。

同时，监管机构也应当积极参与到AI发展的规范与引导中来，制定更加完善的法律法规和伦理准则，为公众在AI的使用上营造一个安全、公正、透明的环境。

AI的发展之路或许充满了未知与挑战，但正如每一次的挫折都会孕育新的成长机会一样，Freysa让我们坚信，在人类的智慧与努力下，人工智能将在不断的磨砺中走向更加成熟、可靠的未来，继续为人类社会的发展注入源源不断的动力，开创一个更加智能、美好的新时代。

最近，有AI被人类“骗”钱成功了……

正文

请到「今天看啥」查看全文