AI也会做梦吗？什么是AI幻觉？

提示工程通过优化AI的输入提示，使生成的内容更准确。

A. 检索增强生成（RAG）技术

RAG技术通过引入外部知识来帮助AI生成更准确的内容。主要方法包括：

• 生成前检索 ：在内容生成前，系统会预检索相关背景信息，为生成过程打下坚实的基础。

• 生成过程中检索 ：在生成过程中，系统实时检索并整合外部知识，确保内容的时效性和深度。

• 生成后检索 ：生成后，系统再次检索，与现有证据进行对比，验证生成内容的准确性。

例如，当AI被问到“ 2024年登月的宇航员有哪些 ？“时，RAG系统会先检索最新的新闻信息，然后基于检索到的准确信息生成回答。

B. 基于反馈和推理的自我改进机制

这种方法赋予AI自我反思的能力，使其能够不断优化生成的内容。

AI在生成答案后，会进行自我审视，提出疑问：“ 这个答案是否全面？是否有关键信息被忽略？ ”

C. 提示词的精细化调优

通过精心设计的提示词，引导AI生成更可靠、更精确的内容。

这种方法通过在解码过程中引入上下文信息，鼓励模型更多地关注所提供的上下文，而不是仅仅依赖于模型在预训练阶段学到的知识。

例子：在翻译一部科幻小说时，传统模型可能会直译“ Beam me up ”为“ 把我光束上去 ”，而应用CAD的模型会理解这是一句要求传送的指令，正确翻译为“ 把我传送上去 ”。

B . 知识图谱的应用

通过知识图谱，我们能够丰富AI的知识库，让生成的内容更加准确和有深度。

想象一下，知识图谱就像一个巨大的、互联的“社交网络”，但它不是连接人，而是连接各种信息和概念。每个“用户”在这个网络中都是一个实体，比如人、地点、事物或者概念。

它们通过各种“关系”相互连接，就像社交软件上的好友关系一样。知识图谱通过这种方式组织信息，就像一个超级学霸帮助AI快速找到信息，并且理解不同信息之间的联系。

举个例子，如果你在知识图谱中查找“苹果”，它不仅会告诉你苹果是一种水果，还可能告诉你苹果公司是一家科技公司，甚至还会告诉你牛顿被苹果启发发现了万有引力。

C. 基于忠实度的损失函数

引入新的损失函数，对偏离原始数据的生成内容进行惩罚，以减少不准确的信息，从而把AI从幻觉中“掐醒”。

举个例子，AI在生成文章摘要时，如果回答中添加了原文中未提及的内容，损失函数会提高惩罚，确保模型学习到生成与原文相符的内容。

D. 监督微调

通过特定领域的数据进行微调，提升模型在特定任务上的准确性。

举个例子，一个通用的语言模型可能对通信术语理解有限。通过使用大量通信行业资料进行训练微调，可以显著提高模型在通信领域的准确性。

比如，它可以更准确地区分相似通信术语的区别，如EBGP和IBGP。