专栏名称: 李继刚

推理模型的Prompt

李继刚 · 公众号 · · 2025-02-08 19:38

主要观点总结

本文介绍了RL/RLHF模型相较于SFT Model的优势和挑战，包括推理能力的引入对Prompt写法的影响。文章提出了针对这类模型的新的思考框架，包括起点（任务信息）和终点（期望结果）的设定，以及如何用抽象梯来表达对结果的期望。文章还通过三个示例来展示如何应用新的思考框架。

关键观点总结

关键观点1: RL/RLHF模型相较于SFT Model的优势和挑战

文章介绍了强化学习模型（如GPT-4o和Deepseek-R1）相较于传统SFT Model的优势，包括引入推理能力。但同时也面临挑战，即需要对Prompt的写法进行适应和调整。

关键观点2: 新的思考框架的提出

针对RL/RLHF模型的特点，文章提出了一个新的思考框架，包括设定起点（任务信息）和终点（期望结果），以及使用抽象梯来表达对结果的期望。

关键观点3: 应用新的思考框架的示例

文章通过三个示例任务来展示如何应用新的思考框架，包括疾病诊断、更换轮胎、建构数字时代人际关系认知模型等。

正文

缘起

之前的 Prompt，针对的都是 SFT Model，清晰明确地表达自己的思路，引入 Few-shots 示范想要的「味道」，都是为了引导大模型「得我们的意」，输出符合我们需求的内容。

GPT-4o，Deepseek-R1，这类 RL/RLHF Model 来了。它们在 SFT Model 基础上，引入了 RL 的训练方式，给模型 Q ＆ A，让模型自己尝试推理如何从 Q ⇒ A。结果就是 SFT 的模型参数发生了变更，出现了「推理能力」。

「模型参数」变了，「模型宇宙」的天也就变了。Prompt 的写法当然也得跟着变。之前的 Chain-of-thoughts 和 Few-shots 写法，在这类 RL/RLHF 模型上，效果会「变差」。这些曾经有助于引导思考过程的方法，和推理模型习得的「推理能力」发生了冲突。我们的引导，对它不再是帮助，而变成了阻碍。

读了论文，学习了网络上大家的写法示例，大家都在说「清晰直接地说自己想要什么」就好了。一句话丢给推理模型就收获非常不错的回复，那有没有办法「稍微」拧一下 Prompt，就有可能收获「更好」的回复？

怎么拧？把目光甩回到 RL Model 的训练方式上，训练时喂进去的 Q＆A 代表着什么？我的理解， Q 代表着「起点」，当前任务的背景信息； A代表着「终点」，我们期待的理想回复 。我们使用推理模型，也应按它的这个训练模式来提供信息： 只有起点和终点，没有过程 。

推理模型的特点就是它会推理，我们不要指手画脚的干预，要顺应它的天性，给它 Q 和 A。

起点(Q)

起点，即我们的任务信息。针对不同任务，提供的信息丰富度和明确度有区分，如果拉一条轴，左端可为「隐式」，右端为「显式」。任务描述越清晰越丰富，就越接近「显式」，反之为「隐式」。

终点(A)

终点，即我们期望的结果。针对不同任务，我们期待收获高质量的回复。这个「高质量」，用什么来描述？如果拉一条轴，尽可能覆盖通用的任务场景，我觉得可以尝试抽象之梯：顶部为「抽象」，底部为「具体」。对结果的期望，在抽象层级层面进行表达。

示例(Deepseek 生成)

最近总是头痛，下午特别严重，对光敏感。列举最可能的三类疾病诊断，按概率排序，并分别注明需要补充的检查项目