隐性事实查询
隐性事实并不会直接在原始数据中显现，需要少量的推理和逻辑判断。而且推导隐性事实的信息可能分散在多个段落或数据表中，因此需要跨文档检索或跨表查询。
比如，“查询过去一个月营收增长率最高的门店”，就是一个典型的隐性事实查询。需要先获取所有门店这个月和上个月的营收，然后计算每个门店的营收增长率，最后排序得出结果。
隐性事实查询的主要挑战是，不同问题依赖的数据源和推理逻辑都各不相同，如何保障大模型在推理过程中的泛化性。
隐性事实查询的主要解题思路包括以下方法：
多跳检索和推理
Iterative Rag：在检索前先生成检索计划，然后在检索过程中不断根据检索结果进行优化。比如利用ReAct框架，沿着Thought – Action – Observation的分析思路，逐步逼近正确答案。
Self-Rag：构建四个关键的评分器，即检索需求评分器、检索相关性评分器、生成相关性评分器和回答质量评分器，从而让大模型自主决定何时开始检索、何时借助外部搜索工具、何时输出最终答案。
利用图和树结构
Raptor：RAPTOR 根据向量递归地对文本块进行聚类，并生成这些聚类的文本摘要，从而自下而上构建一棵树。聚集在一起的节点是兄弟节点；父节点包含该集群的文本摘要。这种结构使 RAPTOR 能够将代表不同级别文本的上下文块加载到 LLM 的上下文中，以便能够有效且高效地回答不同层面的问题。
GraphRag：一种将知识图谱与Rag相结合的技术范式。传统Rag是对向量数据库进行检索，而GraphRag则对存储在图数据库中的知识图谱进行检索，获得关联知识并实现增强生成。
将自然语言转换成SQL查询
text2SQL：主要用于数据库查询，尤其是多表查询场景。
可解释性推理
可解释性推理，是指无法从显性事实和隐性事实中获取，需要综合多方数据进行较为复杂的推理、归纳和总结的问题，并且推理过程具备业务可解释性。
ChatBI中的归因分析，就是典型的可解释性推理，比如”过去一个月，华南区域营收下滑5%的原因是什么？“。这个问题无法直接获取，但可以通过一定方式进行推理，如下所示：
总营收 = 新客 * 转化率 * 客单价 + 老客 * 复购率 * 客单价
经过分析，新客数量、转化率和客单价并未发生明显变化，而老客复购率下滑约10%，因此可以推断出可能是”服务质量、竞品竞争“等原因，引起了老客复购率的下滑，从而导致了总营收的下降。
可解释性推理问题主要有两个挑战，多样化的提示词和有限的可解释性。
面对这样的挑战，风叔主要有以下建议：
提示词工程优化
优化提示词：需要有效地将业务推理逻辑，整合到大语言模型中，比较考验提示词设计人员的行业know-how。
提示词微调：手动设计提示词会很耗时，可以通过提示词微调技术解决这个问题。比如通过强化学习，将大模型生成正确回答的概率作为奖励，指导模型在不同数据集上发现最佳提示词配置。
构建决策树
决策树：将决策流程转换为状态机、决策树或伪代码，让大模型执行。比如在设备运维领域，构建故障树就是一种非常有效的故障检测方案。
利用智能体工作流
Agentic Workflow：通过workflow构建大模型思考和行动的具体步骤，从而约束大模型的思考方向。这种方法的优点是能够提供相对稳定的输出，但缺点是灵活性不足，同样需要针对每类问题设计工作流。
隐性推理查询
隐性推理查询，是指难以通过事先约定的业务规则或决策逻辑进行判断，而必须从外部数据中进行观察和分析，最终推理出结论。
比如IT智能运维，并不存在先验的完整文档，详细记录每种问题的处理方法和规则，只有运维团队过去处理的各种故障事件和解决方案。大模型需要从这些数据中挖掘出针对不同故障的最佳处理方案，这就是隐性推理查询。
同样，在产线智能运维、智能量化交易等场景中，都涉及大量的隐性推理查询问题。
隐性推理问题的主要挑战是逻辑提炼困难、数据分散和不足，是最为复杂和困难的问题。
对于隐性推理问题所面临的挑战，有以下解题思路：
机器学习：通过传统的机器学习方法，从历史数据和案例中总结出潜在的规则。
上下文学习：在提示中涵盖相关的示例，给模型进行参考。但是这种方法的缺陷在于，如何让大模型掌握其训练领域之外的推理能力。
模型微调：通过大量业务数据和案例数据，对模型进行微调，将领域知识进行内化。但是这种方法的资源耗费比较大，中小企业谨慎使用。
强化学习：通过奖励机制，鼓励模型产生最符合业务实际的推理逻辑和答案。
总结
在本篇文章中，针对Rag上手容易上线难的问题，风叔介绍了用户检索的四类问题，以及每类问题对应的解题思路。
对于显性事实查询和隐性事实查询类问题，可以通过多种Rag优化方案来解决。但是，面对可解释性推理和隐性推理问题时，只使用RAG就会力不从心了，需要引入提示词工程、决策树、Agentic Workflow、机器学习、模型微调和强化学习等多种方法。
其中每个方法要详细展开阐述的话，都可以单独写一个系列。因此，本文只是先抛出这些解题方向，不做展开。后续有时间，风叔再结合实际案例做详细介绍。
———— / E N D / ————
作者：风叔 来源微信公众号：风叔云
