专栏名称: 自动驾驶之心
自动驾驶开发者社区,关注计算机视觉、多维感知融合、部署落地、定位规控、领域方案等,坚持为领域输出最前沿的技术方向!
目录
相关文章推荐
肿瘤资讯  ·  齐鲁方案 ... ·  2 天前  
肿瘤资讯  ·  2025 ASCO GI | ... ·  2 天前  
51好读  ›  专栏  ›  自动驾驶之心

上岸自动驾驶大模型算法工程师

自动驾驶之心  · 公众号  ·  · 2025-03-12 07:30

正文

国内端到端的技术路线将再次升级:端到端2.0—VLA 据自动驾驶之心了解,理想汽车集中封闭急攻VLA量产,相信其他车企也会快速跟进。今年又将是智驾关键提升的一年!

拼团优惠立减170!

这里也推荐下平台最新的多模态大模型课程,课程从通用多模态大模型,到大模型微调,最终在聚焦在端到端自动驾驶多模态大模型,基本上面试的东西课程里面都有介绍。课程大纲如下:


课程内容一览

第一章:多模态大模型介绍

第一章主要介绍多模态大模型的基础概念,在整体上帮助同学们了解多模态大模型,打开大模型之路的大门。老师从多模态算法的概念出发,延伸到多模态大模型的结构&训练范式及公开数据集的介绍。在整体上对多模态大模型有一定了解后,我们会进一步聊聊实际的应用场景,让大家对未来可能从事的工作方向和工作内容有一定的了解,最后老师会介绍咱们课程的整体框架及预期的实战学习成果。

第二章:多模态大模型的基础模块

第二章正式进入多模态大模型的基础模块学习。老师会首先介绍多模态大模型的整体架构。模态编码器是什么?Input Projector有什么作用?LLM Backbone是什么?Output Projector又用来做什么?最后的Modality Generator又如何应用到具体的模态生成?在这一章都会得到解答!

第三章:通用多模态大模型

第三章聚焦于通用多模态大模型的讲解与实战。作为多模态大模型下游应用的基石,可以说没有通用多模态大模型的蓬勃发展,就不会有当下大模型应用百花齐放的局面。这一章节老师选取了五个算法展开详细介绍:涵盖了图文理解、视频理解、任意模态、轻量大模型以及实战-统一视觉任务大模型算法,即兼顾了学术界又兼顾了学术界。这一章老师将会带领同学们真正进入多模态大模型的世界。

实际效果:

第四章:多模态大模型微调与强化学习

第四章则聚焦于业内应用最广泛的微调与强化学习技术。如果把通用多模态大模型比作大树的枝干,那么微调技术则是大模型开枝散叶的核心技术。这一章老师首先会做一个训练策略的概述,微调到底微调个啥?接下来则会进入六篇论文的精讲和实战,涉及Adapter、LoRA、QLoRA、Reward Model+PPO、KTO和实战算法DPO,这一章仍会兼顾学术界和工业界,学完这一章,你将有能力训练面向特定业务需求的多模态大模型。

第五章:多模态大模型在自动驾驶中的应用

在讲解完通用大模型和微调技术后,第五章则聚焦于多模态大模型在自动驾驶中的应用,尤其是在端到端自动驾驶中的应用。老师选取了五个最有代表性的算法一一讲解,其中包含理想端到端自动驾驶量产方案参考的算法DriveVLM!在这一章,大家将会掌握最前沿的端到端自动驾驶大模型,为后面就业和升学增添助力!

第六章:多模态大模型求职专题

有了前面五个章节的技术积累,第六章咱们进入求职专题!这一章都是实打实老师工作多年的经验积累。业内有哪些公司?毕业应该从事什么方向?未来发展如何?多模态大模型当下应用的瓶颈在哪里?哪些问题是面试公司真正关心的?我们又该如何准备面试?在这一章你都讲得到答案!







请到「今天看啥」查看全文