如何提升LLMs：Step-Back Prompting

介绍

在不断发展的大型语言模型领域中，一个持续的挑战是它们处理需要深刻理解细微差别和上下文的复杂任务的能力。

Step-Back Prompting现象作为一种创新方法出现，用以解决这一问题，它认识到许多任务包含了无数的复杂性。

这些任务可能会使大型语言模型难以有效检索和应用相关信息。

让我们更深入地探讨一下后退提示及其代码实现！

通过引入一个后退一步的问题，这个问题通常更容易回答，并且围绕一个更广泛的概念或原则，大型语言模型可以更有效地构建它们的推理。

我们开始吧！

然后，我们将导入所有必需的模块。

将你的Open AI API密钥保存在你的环境中。

提供一些少量示例，这将展示如何进行Step-Back Prompting的工作。 然后我们将使用ChatPromptTemplate和FewShotChatMessagePromptTemplate转换这些示例消息。

现在，我们将定义一个从LLM生成问题的流程。它从一个预定义的对话模板（提示）开始，将对话传递给OpenAI GPT模型以固定的随机性水平（temperature = 0）生成响应，然后使用StrOutputParser处理并提取模型响应中的文本内容。最终结果应该是基于用户从提示中输入的生成的问题。

现在，我们将调用或者说是调用question_gen函数，并且我们将传递一个带有问题的字典作为输入。该过程将使用这个问题作为输入，遵循定义的流程，并生成一个或多个问题作为结果。

我们将设置一个简单的界面来执行DuckDuckGo搜索，可以指定最大结果数量，并且通过使用查询调用检索器函数，我们可以轻松地获取搜索结果。

在检索问题后，我们将得到以下答案。

现在，我们将基于变量question生成问题，然后使用这些生成的问题作为搜索查询，通过检索器函数从DuckDuckGo检索搜索结果。

以下是生成的答案。

从LangChain中心，我们将拉取一个“langchain-ai/stepback-answer”模型。

链条是一系列数据转换和操作的序列，从基于用户问题或Step-Back问题的上下文提取开始，接着是与预定义会话上下文使用的大型语言模型（LLM）的交互，最后是将模型的响应解析成可读格式。