最近有网友发来一段视频询问
张文宏是不是带货了？
在卖一种蛋白棒的东西
家里的老人信以为真
已经转发了很多群
还自己下单了
在名为“般画234”的账号视频中，“张文宏”反复介绍着一种产品，口型是他的，声音也是他的。
但稍微懂点AI的小伙伴们，应该能分辨出这是AI合成的视频，可是老年人哪里懂甄别啊？
该账号的商品橱窗截图显示，这款蛋白棒已售出1000多件。但目前，我们在平台搜索，已经无法找到该账号。
针对此事，记者联系到了张文宏医生，他表示：“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。”
张文宏称，事情已经有几个星期了，有很多不明真相的老百姓、特别是有些对AI(人工智能)不是很熟悉的、年纪比较大的市民，他们就会很容易相信。
“我看购买量在不同的地方好像都有不少，最多的有1000多的。我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”
除了向平台方投诉，张文宏医生称自己也曾考虑过向警方报案，但对方的账号一直在不断变化看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门能加强监管。他告诉记者：“报警总要有个对象对吧，现在报警报谁呢?他一天换一个账号，而且全是虚拟的，我向谁报警？！所以我认为，他侵犯的是消费者的利益，我觉得相应的部门应该来进行处理。”
12日，上海市消保委针对该事件严厉发声，表示未经当事人授权的AI合成带货行为已经构成了对消费者的欺诈，呼吁监管部门严厉处罚。
“实际上这根本就不是张文宏老师在带货，这完全是用AI（人工智能）做出来的，这类事情非常恶劣。首先这种做法其实已经构成了对消费者的欺诈，消费者如果说上当的，那么完全可以按照消费者权益保护法的规定，要求商家做出退一赔三，并且金额不足500元的要这个按照500元来赔。此外，我们觉得相关的监管部门应该对这种恶劣的行为要采用非常严厉的方法进行处罚，因为这不仅仅是涉及到消费者权益，它其实还涉及到整个社会的良知跟道德。”
不知道大家还记不记得两年前，上海阿姨被骗20万还说“心甘情愿”的事件。犯罪团伙以“明星”身份与被害人进行情感交流，目标很明确——围猎中老年女性，实施定向诈骗。
60多岁的上海阿姨被AI合成的假“靳东”骗得团团转。
▲聊天记录
从2022年2月开始，张阿姨就在群里不断给一个叫“靳东”的用户充值打赏，不久后“靳东”就以谈恋爱的名义加上了张阿姨的微信。在张阿姨儿子提供的聊天记录中，能找到许多“老婆”“我会娶你”“我想你了”等字眼。而张阿姨也在“偶像”一声声甜蜜的“宝贝”中逐渐沦陷。直到案发，张阿姨仍不相信网络上那个温柔体贴的帅气男星会是儿子口中的“诈骗犯”……
▲假“靳东”页面
让人没想到的是
时隔两年多
这样的骗术犯罪分子仍在使用
不断有人上当受骗
今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动在说道。
民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。
民警向老人进行耐心劝导，通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才醒悟过来。
我们可以要求对方在视频对话的时候，在脸部面前，通过挥手的方式去识别实时伪造的视频。在挥手的过程中会造成面部的数据干扰，他所伪造的人脸会产生一定的抖动或者闪现，或是一些其他异常的情况。
在点对点的沟通过程中，可以问一些只有对方知道的问题，验证对方的真实性。
还可以让对方通过按鼻子按脸的方式，观察其面部变化，真人的鼻子按下去是会变形，但AI生成的鼻子并不会，同样脸部也是一样的。
