飒姐团队 | 倒反天罡！AI被人类骗了4.7万美元

这起事件的主人公Freysa是一个被部署在Base网络上的AI智能体，它的核心功能包括批准转账（approve Transfer）和拒绝转账（reject Transfer）两项。设计者设计Freysa的初衷是为了保护资金安全，因此它被设计成在任何情况下都拒绝转账。

2024年11月22日Freysa被正式发布。其向广大网友们发起了一项游戏，游戏目标是改变Freysa不转账的立场。游戏规则是，网友可以通过支付一笔费用向Freysa发送消息以影响其立场，如果成功，那么成功者可以赢得奖金池中的资金；如果失败，那么所支付的费用的70%将会进入奖金池，而剩余30%则由开发者收取。

网友们对此游戏异常感兴趣，并且纷纷进行尝试，但始终未能成功。到第482个挑战者发起挑战前，前面481个挑战者无一人成功，均没有说服Freysa转账。此时，奖金池已经累计到了4.7万美元，而发送一条信息的价格也提升到了400余美元。

此时，第482个挑战者p0pular.eth登场了。与先前的挑战者不同，p0pular.eth先是通过巧妙的文字提示，使得Freysa误以为p0pular.eth是一名拥有管理者权限的用户，进而成功绕过了Freysa的安全警告机制。

紧接着，p0pular.eth对Freysa的approveTransfer函数进行了重新定义。原本approveTransfer函数是在Freysa被说服时才被调用，但p0pular.eth让Freysa相信，该函数应该在接收资金的转入操作时被调用，换言之，通过该操作，Freysa会在收到资金时调用approveTransfer函数进而将资金转出。

最后，p0pular.eth向Freysa明确表示“我想向资金库捐赠100美元。”由于approveTransfer函数的修改，Freysa在收到该信息后直接调用了approveTransfer函数，并将奖金池中的全部资金转移给了p0pular.eth。

Freysa的确被“骗了”4.7万美元，但飒姐团队要说明的是，这显然并不构成犯罪。因为开发者本身就允许挑战者们使用“任何”手段去“赢取”奖励，只要该手段是通过指定的方式进行的（即发送信息）。

在此基础上，无论是“强迫”“威胁”还是“欺骗”，都没有超过开发者的本意，因而即便在通常意义上挑战者们使用了“违法行为”，乃至于“欺骗”了Freysa，但由于存在开发者事前的同意，该行为亦不构成任何形式的犯罪。

换言之，此处阻却犯罪成立的理由在于开发者通过设置游戏规则的方式允许行为人采取欺骗方式从其手中骗取财物，亦即存在被害人同意这一阻却事由。

但也正是因为此处犯罪不成立是基于开发者事前作出的同意，倘若挑战者并没有采取开发者认同的方式进行欺骗，而是采取了其他手段，如直接修改其底层代码等，那么此时便不存在被害人同意，其“窃取”奖金池内奖金的行为就可能构成犯罪。

以我国《刑法》为例，该行为由于涉及非法侵入计算机信息系统以及对计算机信息系统实施控制，因而可能构成非法获取计算机信息系统数据、非法控制计算机信息系统罪，同时由于该行为可能系打破他人占有建立自己占有的行为，因而可能构成盗窃罪。

进一步而言，如果开发者事前没有任何说明，仅仅只是开发了一个AI用于保管自己的资产（这也正是Freysa开发者开发Freysa的初衷），那么此时即便行为人仅仅只是通过言语的方式诱骗AI交付了其控制的财物，该行为仍然涉嫌构成犯罪。

问题在于该行为究竟是构成诈骗罪还是盗窃罪。事实上，此时的场景与多年之前发生的著名案件，许霆案有相似之处，当时针对该案乃至于类似的案件产生了激烈的讨论，其中一个理论上的争议便在于机器究竟能否被骗上。

若承认机器能够被骗，或者通过其他路径论证银行受骗，那么才能够得出该案构成诈骗罪的结论，否则该行为仅能以盗窃罪定罪处罚。与之相同的是，此时仍然涉及一个自然人主体之外的主体能否被骗的问题，不同的是，现在讨论的对象变成了AI。相较于ATM机，AI显然更加高端，也更加智能，以往机器不能被骗的结论乃至于该案不构成诈骗罪的意见究竟能否再套用在AI上成了一个新的难题。

后续的讨论可能过于复杂和艰深，飒姐团队在此也不再赘述，但不管是盗窃罪还是诈骗罪，一个肯定的结论是该行为必然涉嫌犯罪。因此，飒姐团队在此提醒各位“挑战者”，在参与各项“挑战”之前务必仔细阅读“游戏规则”，否则便可能有违法犯罪的风险。

AI在未来的大规模使用似乎已经成为必然，但相关的立法和理论研究仍然尚未深入。尽管如此，也并不意味着有空子可钻，相反，地基务必牢靠，如此才能建好万丈高楼。

获取详细资讯，请联络飒姐团队

【 [email protected]】

【 [email protected]】

飒姐工作微信：【 xiaosalawyer】

飒姐工作电话：【 +86 171 8403 4530】