本次给大家介绍的课程内容
是
《深度学习之
模型部署-移动端与服务端
实践》
,目标是帮助大家掌握好深度学习模型在各类平台中的部署问题。
深度学习模型必须要经过部署到实际的生产环境中,才能产生真正的应用价值。在各类落地场景中,有的是服务端的场景,追求的是更高的精度,更大的模型,更复杂的功能。
有的是嵌入式平台,诸如手机等各类移动端设备、车载设备,追求的是低延迟,小模型。
因此我们进行模型部署的时候,需要各有侧重。
当前模型优化和部署的工具非常多,包括TensorRT、NCNN、MNN、Tengine等;
当前的硬件平台也非常多,包括CPU、GPU,Arm、NPU、FPGA等。
为了帮助大家学习深度学习模型部署,有三AI推出
《深度学习之模型部署》
课程,
力争对大部分
主流框架,以及典型部署平台进行介绍与
实
战。
子欲学算法,模型部署是最后的一环!
这就是我们这一门课期望帮大家搞定的问题!下面请听课程的详细介绍!
(1)
模型部署基础
。
讲解
模型部署的流程与常见的方式,约10分钟,
本小节内容可以免费收听
。
(2)
NCNN部署
。NCNN是由腾讯优图实验室推出的为手机端极致优化的高性能神经网络前向计算框架,支持主流的平台和常见的视觉任务。本部分课程包括
NCNN框
架介绍和模型部署
,
主要包括NCNN框架特点,环境配置,
模型格式转换,NCNN推理案例实现与代码解析,
并附带完整的工程代码
,
约40分钟
。
(3)
Tengine嵌入式平台部署
。
Tengine
涵
盖了模型的加载解析,格式转换,计算图的调度和优化,在多种架构的芯片上高效运行,具有通用,开放,高性能等特点
,本部分课程
讲解
Tengine框架介绍,在EDIDK嵌入式平台上的模型部署
,并附带完整的工程代码
,
约40分钟
。
(4)
微信小程序部署
。
部署到线上现在最轻便且最方便传播的当属微信小程序了,微信小程序依托于微信,不需要下载安装即可使用,本课程内容包括
微信小程序部署
服务端开发
与前端开发的内容
,并附带完整的工程代码
,
约70分钟
。
(5)
TensorRT模型优化与部署
,
TensorRT是一个高性能的深度学习推理(Inference)优化器,可以为深度学习应用提供低延迟、高吞吐率的部署推理。本部分
课程内容主要包含
TensorRT基础、Docker部署基础、YOLO v5模型训练与评估,基于Python的TensorRT检测模型部署,
基于
Python的
的TensorRT
检测
模型
部署
等,
并附带完整的工程代码
,约190分钟。
(6)
原生Pytorch Android部署
,本部分内容介绍
Android Studio的基本使用,安卓控件使用,图片读取与摄像头调用、展示,pytorch模型转换,模型测试与安卓端部署
,
并附带完整的工程代码
,
约120分钟。
(7)
MNN Android部署
,本部分内容介绍
MNN框架的编译安装,模型转化与量化加速、手机端部署实例3个部分
,
并附带完整的工程代码
,
约60分钟。
以上就是当前更新的内容,后续更新内容请大家及时关注,
本课程讲师为有三AI团队。
龙鹏,笔名言有三,
技术社区
《有
三AI》创始人。
先后就读于华中科技大学(2008-2012),中国科学院半导体研究所神经网络实验室(2012-2015),先后就职于奇虎360人工智能研究院(2015.7-2017.5),陌陌科技深度学习实验室(2017.5-2019.3),深度学习算法专家,阿里云MVP,华为云MVP。
拥有超过7年的计算机视觉从业经验,拥有丰富的传统图像算法和深度学习计算机视觉项目经验,
著有书籍《深度学习之图像识别:核心技术与案例实战》(机械工业出版社2019.4),《深度学习之模型设计:核心算法与案例实践》(电子工业出版社2020.6),《深度学习之人脸图像处理:核心算法与案例实战》(机械工业出版社2020.7),《深度学习之摄影图像处理:核心算法与案例精粹》(人民邮电出版社2021.4),
《生成对抗网络GAN:原理与实践》(机械工业出版社2022.10),《深度学习之图像识别:核心算法与实战案例(全彩色版)》(清华大学出版社2023.8),《深度学习之模型优化:核心算法与案例实践》(电子工业出版社2024.7)。
鲁健恒
,大学老师,有三AI线上与线下课程讲师,《深度学习之模型设计》系列课程主讲人,SCI期刊IEEE ACCESS审稿人。专注于计算机视觉与人工智能领域,近期围绕人工智能领域,拥有4个发明专利授权,2个实用新型专利授权,以及1个软件著作权。
思雨独辰
,某
上市公司资深图像算法工程师,前安防创业公司算法总监,有三AI线上与线下课程讲师,书籍《机器学习入门:
基于数学原理的Python实战》作者
。
本课程是
模型部署
课程,属于有三AI整个课程体系中的高阶课程,学习后
将掌握深度学习
模型部署的整个能力,但是
对大家的能力有一些要求,包括:
(1
)
熟练掌握
深度学习模型训练与推理能力
。
包括Pytorch,CNN模型设计,CV基础方向
。
(2
)
拥有扎实的编程功底
。
熟练掌握Python,C++,Java等语言
。
(3)
拥有基本的前后端开发能力
。
熟练使用Linux,了解服务端Python部署框架Flask等,
熟悉html
,CSS等语言,了解javascript语言等
。
本课程适合人群:
(1)
所有学习人工智能/深度学习算法
,并有志于从事该领域的人员。
(2) 从事
深度学习模型技术应用落地
的技术人员。
(3) 对模型的部署落地感兴趣,
希望增加自己项目经验
的技术人员。