课程大纲
第一课:深度学习总体介绍
1. 神经网络:从传统到现代
2. 深度学习应用特点
3. 深度学习发展方向
4. 深度学习流行框架比较 :用TensorFlow进行课程实例学习与工程部署
5. 实例:深度学习环境配置,TensorFlow基础/进阶/示例,PyTorch基础
第二课:传统神经网络
1. 神经网络起源:线性回归
2. 从线性到非线性:非线性激励
3. 神经网络的构建:深度广度复杂度扩展
4. 神经网络的“配件”:损失函数,学习率,动量,过拟合等
5. 多层感知器
6. 实例: 线性回归与逻辑回归模型 (TensorFlow, PyTorch)
第三课: 卷积神经网络:基础篇
1. 链式反向梯度传导
2. 卷积神经网络-卷积层:正向反向推导
3. 卷积神经网络-功能层:激活函数,降维,归一化,池化,区域分割
4. 实例:简单卷积神经网络训练与运行 (TensorFlow, PyTorch)
第四课:卷积神经网络:高级篇
1. AlexNet:最早的现代神经网络
2. VGG,GoogleNet,ResNet,DenseNet: 近期的高级卷积网络模型
3. U-Net:深度图片生成网络
4. 实例:利用预训练模型进行物体分类/特征提取 (TensorFlow, PyTorch)
第五课:卷积神经网络:目标分类与识别
1. 目标分类与识别任务介绍
2. 传统分类识别方法总结
3. ImageNet与PASCAL VOC数据库
3. 迁移学习
4. 个人研究分享:如何设计新的的网络
5. 实例训练:物体识别/场景识别/文字识别 (TensorFlow)
第六课: 卷积神经网络:目标检测与追踪
1. 目标检测与追踪任务介绍
2. 基于手动设计特征的传统目标检测追踪方法总结
3. 目标检测:RCNN,Fast-RCNN,Faster-RCNN, FPN系列
4. 目标检测:YOLO,SSD,YOLO9000系列
5. 目标追踪:Hierarchical Features, Tracking with FCNs系列
6. TensorFlow官方目标检测接口:Object Detection API
7. 个人研究分享:自然场景文本检测识别领域的最新方法与动向
8. 实例:目标检测模型训练/部署 (TensorFlow)
第七课:卷积神经网络:目标分割
1. 目标分割任务介绍
2. 传统图片分割方法总结
3. 全卷积网络
4. 图像语义分割
5. 图像实例分割
6. 目标分割:FCIS, Mask-RCNN系列
7. 业界应用:目标分类/检测/分割模型在自动驾驶与无人车中的应用
8. 实例:目标分割模型训练/部署 (TensorFlow)
第八课: 循环神经网络
1. RNN基本原理
2. 改进版RNN:门限循环单元
3. 改进版RNN:长短期记忆单元
4. 语言特征提取
5. 编码器 + 解码器结构
6. 注意力机制模型
7. 图片标注:学会看图说话
8. 图片问答:学会看图推理
9. 业界应用:Language and Vision,语言文字与图像的结合应用
10. 实例:图片标注与图片问答实例 (TensorFlow, PyTorch)
第九课:无监督式学习
1. 无监督式学习:以生成式模型为例
2. 生成式对抗网络:( GANs)
3. DCGAN:GAN +深度学习
4. Conditional GAN: 生成图片由我控制
5. InfoGAN: 无监督找特征
6. Wasserstein GAN: 理论创新
7. 实例:Pix2Pix/CycleGAN 自定义图片生成 (TensorFlow, PyTorch)
第十课:增强学习
1. 增强学习基础
2. DQN 深度增强学习
3. DQN 改进模型
4. A3C模型: 高效游戏机器人
5. ELF模型:简化版《星际争霸》,人工智能游戏测试平台
6. 实例: DQN用于Atari游戏学习 (TensorFlow)