我靠，胆子也太大了，还敢这么干？

中产先生 · 公众号 · 自媒体 · 2025-03-01 09:49

正文

当小孩的天真遇上大人的历练，一场

1245个字阅读时长：3分钟

中产先生 | 洞见时代 发现价值 讲述生活

必须重视了。

前天，我们写了一篇文章，转发很多：

主要讲了两个问题：

一个是AI幻觉 ，就是AI因为训练机制的设置问题，可能跟语料也有关，就是存在迎合或者讨好提问者而一本正经得瞎编乱造，长此以往，很可能颠覆整个人类的知识体系，虽然提高了很多人的认知下限，却锁死了大部分人的认知上限。

一个是信息污染 ，因为AI在编小作文的方面又快又好，所以被很多灰产用来编爆文，我已经看到几篇AI自己写的10万+爆文了，非常爽非常震惊，如果不细细推敲的话，根本辨别不出来。

比如下面这篇讲深圳婚恋江湖的：

长此以往，我们很可能生活在一些被虚假信息包围的内容生态里，这可比社交媒体的信息茧房更可怕，因为真实成了稀缺品。

本来我以为这已经很惊悚了，没想到这些人的胆子也太大了：

开始编造涉政涉军的谣言了 。

这几天广为传播的一则涉军谣言就是这个，一早被作者删除了，但是截图已经传疯了，相信很多人都看过：

这件事情本身是真的，但是网上传播的细节，全是AI瞎编的，为什么传播这么广，也正是AI瞎编的细节和金句过于精彩离奇：

网络大V阑夕最早发现的，你看这些AI编的细节，连微博的CEO都震惊了。

在社交媒体混久了就知道：

这些是明显的不能再明显的红线了，谁也不会去踩。

为什么用AI造假的人胆子这么大呢？难道不要命了？

才一万的阅读，也就100块流量费不到，为了这点钱送自己一副银手铐？肯定不值当嘛。

但是，对于有过新闻训练或者互联网使用习惯的人，当然知道其中利害，但如果是农村妇女或者大妈呢？

要知道，头条风靡全网的时候，有专门的MCN机构去山东农村找妇女和大妈用洗稿软件来批量制造信息垃圾，一篇文章不毛钱都不到。

他们怎么知道什么红线，我猜工作流程基本是模板化的：

发现一个热点，直接把人名丢给DeepSeek，给我生成一篇文章，要有细节和金句，故事情节要离奇，标题要吸睛。

然后一分钟文章就好了，然后网上疯传。

这已经是产业链化了，之前我们有一篇文章被网友发现可能被洗稿了，同意投诉也不通过，一气之下发到行业交流群，大家觉得这就是个AI洗稿团队，专门洗10万+爆文。

标题和开头都不变，然后下面就是AI各种编了，特别是格式都是小黑点序号，一看就是AI罗列的信息。

而且业内小伙伴说：

这种情况已经非常普遍了，各大内容平台的算法分发加剧了AI洗稿、AI造谣和AI小作文的传播 。

真是离大谱啊。

想象一个场景：

以后大家看到的内容主要都是一些低成本的农村大妈通过廉价的AI编造的信息垃圾，关键可能还看得津津有味。

如果不加强监管的化，AI可能带来的不是认知提升，而是全社会的降智 。

希望有关部门及早重视起来，希望大厂们做好兜底的方案，还有就是用户也要有质疑的精神。

AI是把双刃剑，个人用不好的话，社会就要加以约束。

就这样。

下周可能会出一个，想不到的超预期措施？