智猩猩与智东西将于
4月18-19日
在北京共同举办
2024中国生成式AI大会
，阿里巴巴通义千问大模型技术负责人周畅，「清华系Sora」生数科技CEO唐家渝，云天励飞“云天天书”大模型技术负责人余晓填，Open-Sora开发团队潞晨科技创始人尤洋，鸿博股份副总裁、英博数科CEO周韡韡，优必选研究院执行院长焦继超，科大讯飞人形机器人首席科学家季超，腾讯研究科学家张驰等20+位嘉宾已确认带来演讲和报告，欢迎报名。
本文来自公众号【自动驾驶之心】，本文
为大家分享北理工&清华最新的工作—P-Mapnet，利用低精度地图大幅提升局部高精地图性能，量产杀器！
原文链接：https://mp.weixin.qq.com/s/5xWdBP1O5LMEnpkz_eWFaQ
本文只做学术/技术分享，如有侵权，联系删文。
在线HD Map生成算法是当前自动驾驶系统摆脱对高精地图依赖的方法之一，现有的算法在远距离范围下的感知表现依然较差。为此，我们提出了P-MapNet，其中的“P”强调我们专注于融合地图先验以提高模型性能。具体来说，我们利用了SDMap和HDMap中的先验信息：一方面，我们从OpenStreetMap中提取了弱对齐的SDMap数据，并将其编码为单独的条件分支输入。尽管改输入与实际HD Map存在弱对齐的问题，我们基于Cross-attention机制的架构能够自适应地关注SDMap骨架，并带来显著的性能提升；另一方面，我们提出了一种用MAE来捕捉HDMap的先验分布的refine模块，该模块有助于让生成的HD Map更符合实际Map的分布，有助于减小遮挡、伪影等影响。我们在nuScenes和Argoverse2数据集上进行了广泛的的实验。
总结来说我们的贡献如下：
（1）我们的SDMap先验能够提升在线地图生成性能，包含了栅格化（最多可提高18.73 mIoU）和矢量化（最多可提高8.50 mAP）两种地图表示。
（2）我们的HDMap先验能够将地图感知指标提升最多6.34%。
（3）P-MapNet可以切换到不同的推理模式，以在精度和效率之间进行权衡。
（4）P-MapNet是一个远距离HD Map生成的解决方案，对于较远的感知范围能够带来更大的改进。我们的代码和模型已公开发布在https://jike5.github.io/P-MapNet/。
（1）在线地图生成
传统的HD Map的制作主要包含SLAM建图、自动标注、人工标注等步骤[1]，这导致了HD Map的成本高、鲜度有限。因此，在线地图生成对于自动驾驶系统是至关重要的。HDMapNet[2]将地图元素通过栅格化进行表示，使用pixel-wise的预测和启发式后处理方法获得矢量化的预测结果。最近的一些方法，如MapTR[4], PivotNet[3], Streammapnet[5]等则基于Transformer架构实现了端到端的矢量化预测，但这些方法仅使用传感器输入，在遮挡、极端天气等复杂环境下性能仍有限。
（2）远距离地图感知
为了让在线地图生成的结果能够更好的被下游模块使用，一些研究尝试将地图感知范围进一步拓展。SuperFusion[7]通过融合激光雷达和相机，通过depth-aware BEV变换，实现了前向90m的远距离预测。NeuralMapPrior[8]通过维护和更新全局神经地图先验来增强当前在线观测的质量、拓展感知的范围。[6]通过将卫星图像与车载传感器数据进行特征聚合来获得BEV特征，进一步再进行预测。MV-Map则专注于离线、长距离的地图生成，该方法通过聚合所有关联帧特征，并使用神经辐射场来对BEV特征进行优化。
整体框架如图 2所示。
输入： 系统输入为点云：
、环视相机：
，其中
为环视相机数量。通常的HDMap生成任务(例如HDMapNet)可以定义为：
其中
表示特征提取，
表示segmentation head，
则是HDMap的预测结果。
我们所提出的P-MapNet融合了SD Map和HD Map先验，这种新任务(
setting)可以表示为：
其中，
表示SDMap先验，
表示本文所提的refinement模块。
模块通过预训练的方式学习HD Map分布先验。类似的，当只使用SDMap先验时，则得到
-only setting：
输出：对于地图生成任务，通常有两种地图表示形式：栅格化和矢量化。在本文的研究中，由于本文所设计的两个先验模块更适合栅格化输出，因此我们主要集中在栅格化的表示上。
3.1 SDMap Prior 模块
本文基于nuScenes和Argoverse2数据集进行研究，使用OpenStreetMap数据生成以上数据集对应区域的SD Map数据，并通过车辆GPS进行坐标系变换，以获取对应区域的SD Map。
如图2中所示，我们首先分别对图像数据进行特征提取和视角转换、对点云进行特征提取，得到BEV特征。然后将BEV特征通过卷积网络进行下采样后得到新的BEV特征：，将该特征图展平得到BEV Query。
对于SD Map数据，通过卷积网络进行特征提取后，得到的特征
与BEV Query进行Cross-attention机制：
经过交叉注意力机制后得到的BEV特征通过segmentation head可以获得地图元素的初始预测
。
3.2、HDMap Prior 模块
直接将栅格化的HD Map作为原始MAE的输入，MAE则会通过MSE Loss进行训练，从而导致无法作为refinement模块。因此在本文中，我们通过将MAE的输出替换为我们的segmentation head。为了让预测的地图元素具有连续性和真实性(与实际HD Map的分布更贴近)，我们使用了一个预训练的MAE模块来进行refine。训练该模块包含两步：第一步上使用自监督学习训练MAE模块来学习HD Map的分布，第二步是通过使用第一步得到的权重作为初始权重，对网络的所有模块进行微调。
第一步预训练时，从数据集中获取的真实HD Map经过随机mask后作为网络输入
，训练目标则为补全HD Map：
第二步fine-tune时，
则使用第一步预训练的权重作为初始权重，完整的网络为：
4.1 数据集和指标
我们在两个主流的数据集上进行了评测：nuScenes和Argoverse2。为了证明我们所提方法在远距离上的有效性，我们设置了在三种不同的探测距离：
,
,
。其中，
