Anthropic API 新的 Citations 功能对于 RAG 内容来说相当实用,因为启用后,能帮你标注文档引用来源,可以有效减少幻觉,让结果可信度更高。虽然没有这个功能之前也可以通过提示词实现,但是稳定性不够好,这部分提示词还要占用额外的tokens,现在就简单多了。
当 Citations 功能被启用后,API 会将用户提供的源文档(PDF 文档或纯文本文件)进行切分(按句子进行分块)。这些切分好的句子连同用户提供的上下文信息与查询一起传递给模型。或者,用户也可以自行对源文档进行分块后提供。
Claude 会根据查询进行分析,并在生成的回复中自动加入与引用文献对应的标注,以确保所有源自文档的信息都能准确溯源。被引用的文本将明确标示对应的源文档,从而最大程度地减少“幻觉”情况。
这种方法具备高度灵活性和易用性,无需独立存储文件,并能与 Messages API 无缝集成。
对于像文档摘要、客服都会非常有用,以客服场景为例:客户经常会询问“如何在某款产品上执行某个操作?”。通常,需要翻阅手册、FAQ、甚至过去的支持工单。
有了 Citations,客服机器人可以说:“问题原因是 X,解决方案来自产品手册第 X 条:‘请先进行更新…’”,让用户看到具体出处,更有说服力。
相关介绍:网页链接
当 Citations 功能被启用后,API 会将用户提供的源文档(PDF 文档或纯文本文件)进行切分(按句子进行分块)。这些切分好的句子连同用户提供的上下文信息与查询一起传递给模型。或者,用户也可以自行对源文档进行分块后提供。
Claude 会根据查询进行分析,并在生成的回复中自动加入与引用文献对应的标注,以确保所有源自文档的信息都能准确溯源。被引用的文本将明确标示对应的源文档,从而最大程度地减少“幻觉”情况。
这种方法具备高度灵活性和易用性,无需独立存储文件,并能与 Messages API 无缝集成。
对于像文档摘要、客服都会非常有用,以客服场景为例:客户经常会询问“如何在某款产品上执行某个操作?”。通常,需要翻阅手册、FAQ、甚至过去的支持工单。
有了 Citations,客服机器人可以说:“问题原因是 X,解决方案来自产品手册第 X 条:‘请先进行更新…’”,让用户看到具体出处,更有说服力。
相关介绍:网页链接