专栏名称: 有三AI
三人行必有AI,本公众号聚焦于让大家能够系统性地完成AI各个领域所需的专业知识的学习
目录
相关文章推荐
爱否科技  ·  OPPO Find N5 ... ·  3 天前  
爱否科技  ·  iPhone 17 Pro 渲染图、17 ... ·  3 天前  
51好读  ›  专栏  ›  有三AI

【视频课】AI必学,超9小时,6大框架,Android+NCNN+MNN+Tengine+TensorRT+小程序模型部署实战!

有三AI  · 公众号  ·  · 2024-07-03 21:46

正文


前言


欢迎大家关注有三AI的视频课程系列,我们的视频课程系列共分为5层境界,内容和学习路线图如下:


第1层:掌握学习算法必要的预备知识,包括Python编程,深度学习基础,数据使用,框架使用。

第2层:掌握CV算法最底层的能力,包括CNN模型,Transformer模型,图像分类,模型分析。

第3层:掌握CV算法最核心的方向,包括图像分割,目标检测,图像生成,目标跟踪。

第4层:掌握CV算法最核心的应用,包括人脸图像,图像质量,视频分析,图像编辑。

第5层:掌握算法落地的关键技术,包括模型优化,模型部署。



其中部分课程的主体内容已经更新完毕, 比如CNN模型/Vision Transformer模型/数据使用/模型分析/图像分类/图像分割/目标检测/图像生成/图像翻译/图像增强/视频分类/模型部署/模型优化/人脸图像检测与识别/ 人脸属性编辑 ;部分课程正在重制更新中,比如人脸三维重建;部分课程正在计划上线中,比如通用图像编辑/强化学习/半监督与无监督,请大家及时关注!


最新的完整介绍如下: 【总结】最系统化的CV内容,有三AI所有免费与付费的计算机视觉课程汇总(2022年12月)



本次给大家介绍的课程内容 《深度学习之 模型部署-移动端与服务端 实践》 ,目标是帮助大家掌握好深度学习模型在各类平台中的部署问题。


为什么要学习这门课


深度学习模型必须要经过部署到实际的生产环境中,才能产生真正的应用价值。在各类落地场景中,有的是服务端的场景,追求的是更高的精度,更大的模型,更复杂的功能。



有的是嵌入式平台,诸如手机等各类移动端设备、车载设备,追求的是低延迟,小模型。


因此我们进行模型部署的时候,需要各有侧重。 当前模型优化和部署的工具非常多,包括TensorRT、NCNN、MNN、Tengine等; 当前的硬件平台也非常多,包括CPU、GPU,Arm、NPU、FPGA等。

为了帮助大家学习深度学习模型部署,有三AI推出 《深度学习之模型部署》 课程, 力争对大部分 主流框架,以及典型部署平台进行介绍与 战。


子欲学算法,模型部署是最后的一环! 这就是我们这一门课期望帮大家搞定的问题!下面请听课程的详细介绍!


课程内容介绍


本课程内容包括 各类深度学习模型部署框架与平台,实践内容非常丰富。

本次课程中一共已经包含了 6个平台和框架案例 ,分别为 原生Pytorch在 Android手机端 部署,NCNN的通用部署 Tengine在EAIDK嵌入式平台上的部署, TensorRT在服务器端的模型优化与部署,微信小程序的前后端完整部署,MNN在Android手机端部署,现在共计约540分钟, 后续还会增加其他硬件平台与部署框架


课程大纲如下:

课程大纲

以下为课程中的 部分案例 展示



下面简单了解一下各部分的内容:


(1) 模型部署基础 讲解 模型部署的流程与常见的方式,约10分钟, 本小节内容可以免费收听




(2) NCNN部署 。NCNN是由腾讯优图实验室推出的为手机端极致优化的高性能神经网络前向计算框架,支持主流的平台和常见的视觉任务。本部分课程包括 NCNN框 架介绍和模型部署 主要包括NCNN框架特点,环境配置, 模型格式转换,NCNN推理案例实现与代码解析, 并附带完整的工程代码 约40分钟






(3) Tengine嵌入式平台部署 Tengine 盖了模型的加载解析,格式转换,计算图的调度和优化,在多种架构的芯片上高效运行,具有通用,开放,高性能等特点 ,本部分课程 讲解 Tengine框架介绍,在EDIDK嵌入式平台上的模型部署 ,并附带完整的工程代码 约40分钟





(4) 微信小程序部署 部署到线上现在最轻便且最方便传播的当属微信小程序了,微信小程序依托于微信,不需要下载安装即可使用,本课程内容包括 微信小程序部署 服务端开发 与前端开发的内容 ,并附带完整的工程代码 约70分钟





(5) TensorRT模型优化与部署 TensorRT是一个高性能的深度学习推理(Inference)优化器,可以为深度学习应用提供低延迟、高吞吐率的部署推理。本部分 课程内容主要包含 TensorRT基础、Docker部署基础、YOLO v5模型训练与评估,基于Python的TensorRT检测模型部署, 基于 Python的 的TensorRT 检测 模型 部署 等, 并附带完整的工程代码 ,约190分钟。




(6) 原生Pytorch Android部署 ,本部分内容介绍 Android Studio的基本使用,安卓控件使用,图片读取与摄像头调用、展示,pytorch模型转换,模型测试与安卓端部署 并附带完整的工程代码 约120分钟。




(7) MNN Android部署 ,本部分内容介绍 MNN框架的编译安装,模型转化与量化加速、手机端部署实例3个部分 并附带完整的工程代码 约60分钟。





以上就是当前更新的内容,后续更新内容请大家及时关注, 本课程讲师为有三AI团队。



龙鹏,笔名言有三, 技术社区 《有 三AI》创始人。 先后就读于华中科技大学(2008-2012),中国科学院半导体研究所神经网络实验室(2012-2015),先后就职于奇虎360人工智能研究院(2015.7-2017.5),陌陌科技深度学习实验室(2017.5-2019.3),深度学习算法专家,阿里云MVP,华为云MVP。


拥有超过7年的计算机视觉从业经验,拥有丰富的传统图像算法和深度学习计算机视觉项目经验, 著有书籍《深度学习之图像识别:核心技术与案例实战》(机械工业出版社2019.4),《深度学习之模型设计:核心算法与案例实践》(电子工业出版社2020.6),《深度学习之人脸图像处理:核心算法与案例实战》(机械工业出版社2020.7),《深度学习之摄影图像处理:核心算法与案例精粹》(人民邮电出版社2021.4), 《生成对抗网络GAN:原理与实践》(机械工业出版社2022.10),《深度学习之图像识别:核心算法与实战案例(全彩色版)》(清华大学出版社2023.8),《深度学习之模型优化:核心算法与案例实践》(电子工业出版社2024.7)。



鲁健恒 ,大学老师,有三AI线上与线下课程讲师,《深度学习之模型设计》系列课程主讲人,SCI期刊IEEE ACCESS审稿人。专注于计算机视觉与人工智能领域,近期围绕人工智能领域,拥有4个发明专利授权,2个实用新型专利授权,以及1个软件著作权。



思雨独辰 ,某 上市公司资深图像算法工程师,前安防创业公司算法总监,有三AI线上与线下课程讲师,书籍《机器学习入门: 基于数学原理的Python实战》作者


本课程特色与适合人群


本课程是 模型部署 课程,属于有三AI整个课程体系中的高阶课程,学习后 将掌握深度学习 模型部署的整个能力,但是 对大家的能力有一些要求,包括:


(1 ) 熟练掌握 深度学习模型训练与推理能力 包括Pytorch,CNN模型设计,CV基础方向

(2 ) 拥有扎实的编程功底 熟练掌握Python,C++,Java等语言

(3) 拥有基本的前后端开发能力 熟练使用Linux,了解服务端Python部署框架Flask等, 熟悉html ,CSS等语言,了解javascript语言等


本课程适合人群:


(1) 所有学习人工智能/深度学习算法 ,并有志于从事该领域的人员。

(2) 从事 深度学习模型技术应用落地 的技术人员。

(3) 对模型的部署落地感兴趣, 希望增加自己项目经验 的技术人员。


如何获取课程


订阅本课程的方法有两个:


其一: 单独订阅本视频专栏,随着后续内容继续增加会进行价格调整,感兴趣的请提前订阅 链接如下:


其二:参加 有三 AI-CV中级-模型算法组 ,可以获得所有模型相关的课程,介绍如下:

有三AI-CV中级-模型算法组

有三AI-CV中级-模型算法小组是我们推出的终身培养计划,有三作为主要导师直接带领,囊括答疑,微信群交流,线下活动,多本自写的书籍,图文课件与代码,直播与直播,知识星球社区,内容组与研发组权限,了解详细请阅读以下文章:


【一对一小组】2024年有三AI-CV中阶-模型算法组发布,如何循序渐进地学习好模型原理与部署落地

往期相关







请到「今天看啥」查看全文