自我改进型推理模型的关键认知行为：高效STaR模型的四大习惯 -20250307132216

自我改进型推理模型的关键认知行为：高效STaR模型的四大习惯 查看图片 // @爱可可-爱生活 :本文创新性地揭示了验证、回溯等认知行为是驱动语言模型自我提升的关键因素，即使是错误的答案，只要包含正确的推理行为，也能有效引导模型进步，并通过精心策划的预训练数据成功地将 Llama 的自我提升能力提升至与 Qwen 相当的水平，强调了关注模型推理过程和优化预训练数据对于构建更智能 AI 系统的重要性。