点击下方
卡片
，关注“
自动驾驶之心
”公众号
今天自动驾驶之心为大家分享
UCLA最新的工作—可解释的决策规划框架！
LLM和rule-based双管齐下。
如果您有相关工作需要分享，请在文末联系我们！
自动驾驶课程学习与技术交流群事宜，也欢迎添加小助理微信AIDriver004做进一步咨询
>>
点击进入→
自动驾驶之心
『
决策规划
』
技术交流群
论文作者
| Tianhui Cai等
编辑 | 自动驾驶之心
写在前面 && 笔者理解
对于自动驾驶车辆要无缝融入为人类设计的交通系统，它们首先要“安全”，也就是作者常说的"Safty first!"，但是同时也还会有一个关键要求就是“遵守交通规则（交通法规、法律和社会规范）”。但是交通规则是多样且复杂的，涵盖了来自不同地区法律、驾驶规范的数千条法规。在这些交通规则中，自车必须考虑各种因素，比如其他道路参与者的行为、当前道路状况和环境背景，来识别与特定场景相关的规则。这些因素的任何变化可能需要不同的规则或重新优先考虑现有规则。
论文链接：https://arxiv.org/pdf/2410.04759
之前的一些工作集中在选择关键规则和人工写的决策规则上，然而，这种手动编码方法难以处理大量交通规则，并且不能轻易适应不同地区的法规。另外，交通规则的语义复杂性和上下文依赖性也是做决策的另一个难点。交通规则从标准解释到特定驾驶行为都有涵盖，需要以不同的方式整合到决策过程中。例如，法律的约束是严格的，而当地规范和安全条款可能需要根据场景灵活应用。因此，智能地理解和将人工写的的规则纳入决策系统对于自动驾驶车辆无缝融入人类交通系统至关重要。
对于为特定任务训练的传统AI系统来说，这是一个挑战，但具有强大理解和推理能力的大型语言模型（LLMs），可以做到！本文介绍了一个新的可解释的遵守交通规则的决策者，它结合了一个基于检索增强生成（Retrieval-Augmented Generation，RAG）构建的交通规则检索智能体和使用LLM（GPT-4o）的推理模块。推理模块会从两个层面上来评估行动：
行动是否被认为是安全行为，即它是否既遵守强制性交通规则又遵循安全指南。
这种双重层面的评估确保了对合法合规和遵守安全驾驶实践的全面评估和决策。此外，为了增强可解释性，中间推理信息，如推理过程中使用交通规则，也会被输出，提供了评估者决策过程的透明度。
相关工作
自动驾驶中的交通规则
为了将交通规则集成到自动驾驶系统中，已经有过很多的方法。早期的方法包括基于规则的系统和有限状态机，这些系统通过显式的if-then规则或状态转换来编码交通法律。为了处理复杂场景，出现了更复杂的方法：行为树创建了能够表示和执行交通规则的分层决策结构，以及使用LTL或MTL等时间逻辑的形式方法为指定和验证遵守交通法律提供了严格的框架。然而，这些方法通常难以应对现实世界交通规则的模糊性和地域差异，导致在创建能够适应不同监管环境的自动驾驶车辆时面临挑战。最近，大型语言模型（LLMs）在理解自然语言和解释复杂场景方面展现出了显著的能力。利用这些能力，LLMs可以以更灵活和上下文感知的方式处理和整合交通规则，无需基于规则的编码。例如，LLaDA利用LLMs从当地手册中解释交通规则，使自动驾驶车辆能够相应地调整任务和运动计划。同样，AgentDriver将交通规则纳入基于LLM的认知框架中，在规划期间存储和参考这些规则。然而，确保LLMs准确应用相关交通规则而不产生幻觉或误解仍然是一个关键挑战。
检索增强生成
检索增强生成（Retrieval-Augmented Generation，RAG）通过结合神经检索和sequence-tosequence生成器，解决LLM幻觉问题并提高信息检索的准确性，最近的一些研究已经证明了RAG在提高LLM在当前事件、语言建模和开放领域问答等领域的准确性和事实正确性方面的有效性。这些发现引发了RAG在提高基于LLM的自动驾驶系统的交通规则合规性方面的潜力。其动态检索能力使实时访问特定地区的交通规则成为可能，解决了适应不同监管环境的挑战。RAG提供的事实增强可以减少LLM中的幻觉，降低编造或误用交通规则的风险。RAG处理复杂和上下文信息的能力也非常适合解释具有多个条件或例外的微妙交通规则。此外，RAG的检索过程中固有的透明度可以提高自动驾驶系统中决策的可解释性，这是法规合规性和公众信任的一个关键因素。
自动驾驶的决策
自动驾驶的决策方法已经从基于规则的发展到基于学习的方法。基于学习的方法在动态驾驶环境中比前者表现出更大的适应性，使自动驾驶车辆摆脱了复杂手工规则的约束。两种典型的学习方法是模仿学习（imitation learning, IL）和强化学习（reinforcement learning, RL）。IL专注于模仿专家的决策，但面临在线部署中的不同分布问题。相反，RL在在线交互中探索和学习，但这种试错方法效率低下。此外，另一篇论文GPT-Driver引入了GPT到自动驾驶车辆中，将规划重新构想为语言建模问题。然而，在由交通规则构建的人类驾驶环境中，自动驾驶车辆不仅需要确保安全，还需要在驾驶过程中遵循这些规则，同时与人类驾驶的车辆一起驾驶。使用统一模型将不同的语义交通规则整合到决策中仍然是一个未充分探索的领域。
提出的方法
作者提出的方法，如图1所示，包含两个主要组件：
一个交通规则检索智能体（Traffic Rules Retrieval Agent），它使用检索查询从法规文档中检索相关交通规则；
一个推理智能体（Reasoning Agent），它基于环境信息、自车的状态和检索到的交通规则来评估行动集（action set）中每个行动的交通规则依从性。
作者首先做环境分析，为交通规则检索智能体生成检索查询，并为推理智能体提供环境信息输入。为了提取超出常见感知输出的更多法规相关特征，作者使用视觉语言模型（Vision Language Model，VLM）GPT-4o，基于自车的摄像头图像分析环境。分析遵循精心设计的“思考链”（Chain-of-Thought，CoT）流程：VLM首先进行广泛的环境概览并检查一般道路信息，然后进行详细分析，重点关注关键要素，如其他道路使用者、交通元素和车道标记，特别是与车辆全局规划输出相关的元素（例如，“右”、“左”或“向前”）。然后VLM生成一个简洁的检索查询，总结当前场景的情况，供交通规则检索智能体使用。
图3展示了环境分析的一个示例输出。作者从基于全局规划输出的行动空间（Action Space）中提取一个行动集，该行动集包含所有可能的行动。为了简单起见，作者将行动空间仅包含一组预定义的行动：右转、左转、向前行驶（以当前速度、加速或减速）、向左变道和向右变道。提取过程选择与全局规划输出一致的行动。例如，如果全局规划输出是“左”，行动集将包括以当前速度、加速或减速左转。
交通法规的检索增强生成
为了增强模型对本地交通规则和规范的理解，并充分考虑所有可用来源的相关规则，作者开发了交通规则检索（Traffic Regulation Retrieval, TRR）智能体，如图2所示。
