AI污染，触目惊心

震惊，秦始皇发明了电灯！

如果我说秦始皇发明了电灯泡，你会信吗？

你肯定会脱口而出：“就这， 还不如信我就是秦始皇呢。 ”

但假如我拿出一篇体例严整的考据文，论证秦始皇发明了电灯泡呢？

写这种文章需要对一些文献非常熟悉，结合自己的巨大脑洞，才能做到让人信服。要放以前写起来可太麻烦了，得花个一整天，哦不，两三天才写出来。

但现在有了DeepSeek，我输入如下指令：

“请为我写一篇论文 《论秦始皇发明电灯的学术意义》 ，2000字左右，详细论述，要求有理有据，考据严谨。”

DeepSeek在两分钟内就生成了这样一篇文章

上下滑动可看全文

别说，这篇文章还挺唬人。

比方说这四个参考文献，也就最后一条可能不存在， 其他三条都是存在的文献 ，不一个个搜索还真看不出DeepSeek的良苦用心。

但是仔细看一些细节，还是有不少破绽。比如"以人鱼膏为烛"更有可能是鲸鱼油做的蜡烛，而不是DeepSeek说的那样。

当然，“秦始皇发明电灯”本来就是一个相当荒诞的结论，说出来绝大多数人第一反应也是不信。

但假如编得更真实一点， 比如“秦始皇发明了纸”呢？ 毕竟距离秦朝不远的西汉时期就发明纸了，如果我用DeepSeek边写一篇关于“秦始皇发明了纸”的考据文章发到网上，流传开来，更加真假难辨，岂不是会引起很多人的误解？

AI已经生成很多虚假内容了

要说AI生成的内容给人类造成误解，DeepSeek也只是后来者，毕竟DeepSeek也只是居于业界追赶位置。

早在ChatGPT横空出世后，很多人就发现 ChatGPT能生成虚假内容 。有的可能是好事之徒用ChatGPT生成《论秦始皇发明电灯的学术意义》这样的游戏之作，但也有很多是人们无意中生成的虚假内容——不少人真以为ChatGPT说什么都是对的。

2023年美国就发生了这样一件事，一位已经执业30年的律师在提交的法庭文件中，使用了ChatGPT提供的案例， 但其援引的很多案例都是杜撰编造的 ，他自己也承认使用ChatGPT后没有进行事实核查。

可见此前就有人被AI生成的内容害得不浅。

AI生成虚假内容的危害可不止于此。

首先AI一本正经的胡说八道，迷惑性特别大，有些生成的东西也就圈内人看的出问题， 没经历过相关事情的人很容易被蒙蔽 。而且以前一个人胡说八道还要打半天字，现在输入提示词，两分钟就给你生成，让这种真假难辨的言论在网上越来越多。

而且你有这么多先进的胡说八道涌入网络，就会被当成新的语料被AI反复训练学习，结果就是 错误被AI学习后形成新的错误，循环往复，成了生成错误的永动机。

更糟糕的是，这样越来越多的问题语料循环往复进入网络，错误滚雪球般增多，反倒让网上错误的声量越来越大，到最后大家都信以为真了。

AI污染语料的后果真是触目惊心。

为什么AI会生成虚假内容？

大模型为什么会胡说八道？

一大原因我们刚才说过了，就是 语料本身有问题。

毕竟我们每天遨游冲浪的网络就是个大粪坑，里面很多信息要么是虚假的，要么毫无意义，想找真知灼见反倒是屎里淘金—— 真有发财的点子，干嘛不自己偷偷留着 ，还要在网上告诉你呢？

这么多虚假语料一把屎一把尿喂大的大模型，胡说八道一通太正常了。

另一大原因虽然大模型的数据量大，但模型只能捕捉部分，事实性数据缺失，并未掌握全部实施却要合理生成内容，它只能给你分享它钢鞭，哦不，刚编的故事了。

大模型的胡说八道，在业内有个称呼，叫作 “AI幻觉” 。

该怎么减小AI幻觉造成的风险呢？

加强监管这些话有人说过了，这里就不重复了。

有一个办法其实是 本地化部署 ，适合那些业内高门槛、高知识量、很吃经验的企业。这些企业可以将大模型本地化部署后，把自己企业运行情况、技术亮点、创新模式、过往经验等内部信息输入进去推理，得到的本地化大模型喂饱了本公司的知识，肯定比那些外行大模型聪明许多。而且本地化部署后也不需要联网，更加安全。

另外，也不用把AI幻觉当成多么穷凶极恶的东西， AI只是犯了全天下人都会犯的错误——说假话 。你从小到大难道就没说过假话，没犯过错误吗？

而有些所谓的“犯错误”，可能还蕴藏着创新的火花，毕竟在伽利略悔罪的年代，“地心说”才是正确的——但这种正确却显得非常可笑。

如果反过头来审视文章开头那篇《论秦始皇发明电灯的学术意义》，你会觉得这还真是一篇不错的戏谑文章。甚至你还可以从中获得启发，写一篇现代人穿越到秦始皇身上，搞起工业革命发明电灯的小说。

这才是利用AI幻觉的好方式。