小象学院《深度学习》第五期
主讲老师:
戎雪健, 美国纽约城市大学博士
研究领域包括深度学习,计算机视觉,与图像处理等,尤其是自然场景文字检测与识别方向。在CVPR,ECCV等顶级会议上发表了多篇学术论文,同时他还是CVPR,ICCV,BMVC,WACV等重要视觉会议以及TMM,TIP,CVIU,JVCI等期刊的审稿人。
课程简介:
本次的深度学习课程主要包括三大部分:
1) 深度学习核心原理。了解深度学习运行的最核心数学原理,从而对后续的知识点扩展,模型设计,与优化技能打下基础。
2) 深度学习知识点连接。会涵盖主流的深度学习研究工程应用中碰到的大部分知识点,与大部分学习资料孤立进行知识点介绍不同,会结合主讲人自身总结找到主要知识点之间的联系,便于系统掌握与后续学习。
3) 介绍不同知识点的代表应用。结合所学的原理以及实例,讲解近期较为重要的图像与语言领域的应用,如增强学习(Reinforcement Learning),迁移学习(Transfer Learning),无监督式学习(Unsupervised Learning)下的生成式对抗网络(Generative Adverserial Networks, GANs),注意力机制模型(Attention Model)等, 方便学员针对自身兴趣的目标进行强化训练提升。
面向人群:
1. 想了解和学习深度学习的学习者
2. 想学习了解深度学习的相关从业者
3. 未来想从事深度学习工作的求职者
2. 想学习了解深度学习的相关从业者
3. 未来想从事深度学习工作的求职者
学习收益:
通过本课程的学习,学员将会收获:
1. 帮助学员系统性的掌握深度学习的基本原理,结合近期研究成果,学习从基本概念到各个先进模型的转化思路
1. 帮助学员系统性的掌握深度学习的基本原理,结合近期研究成果,学习从基本概念到各个先进模型的转化思路
2. 了解研究过程中定义问题设计模型的思路
3. 实践与理论结合,培养学员面对工程及学术问题的思考解决能力
4. 结合深度学习框架TensorFlow进行实例训练,快速积累深度学习工程项目经验
4. 结合深度学习框架TensorFlow进行实例训练,快速积累深度学习工程项目经验
5. 对有兴趣与科研需求的学员,提供轻量级深度学习框架PyTorch的讲解与指导
开课时间:
2017年9月9日
学习方式:
在线直播,共10次课,每次2小时
每周2次(周六、日,晚上20:00 - 22:00)
直播后提供录制回放视频,可在线反复观看,有效期1年
课程大纲:
第一课 深度学习总体介绍
1. 神经网络:从传统到现代
2. 深度学习应用特点
3. 深度学习发展方向
4. 深度学习流行框架比较 (Caffe/Caffe2, MXNet, Theano, Keras, TensorFlow, Torch/PyTorch):用TensorFlow进行课程实例学习与工程部署(对有兴趣与科研需要的学员,额外讲解用PyTorch进行快速原型开发)
5. 实例:深度学习环境配置,TensorFlow基础/进阶/示例,PyTorch基础
第二课 传统神经网络
1. 神经网络起源:线性回归
2. 从线性到非线性:非线性激励
3. 神经网络的构建:深度广度复杂度扩展
4. 神经网络的“配件”:损失函数,学习率,动量,过拟合等
5. 多层感知器(Multi-layer Perceptron)
6. 实例: 线性回归与逻辑回归模型 (TensorFlow, PyTorch)
第三课 卷积神经网络 (Convolutional Neural Networks, CNNs) :基础篇
1. 链式反向梯度传导 (Back Propagation)
2. 卷积神经网络-卷积层:正向反向推导
3. 卷积神经网络-功能层:激活函数,降维,归一化,池化,区域分割
4. 实例:简单卷积神经网络训练与运行 (TensorFlow, PyTorch)
第四课 卷积神经网络 (Convolutional Neural Networks, CNNs) :高级篇
1. AlexNet:最早的现代神经网络
2. VGG,GoogleNet,ResNet,DenseNet: 近期的高级卷积网络模型
3. U-Net:深度图片生成网络
4. 实例:利用预训练模型进行物体分类/特征提取 (TensorFlow, PyTorch)
第五课 卷积神经网络:目标分类与识别 (Object Classification and Object Recognition)
1. 目标分类与识别任务介绍
2. 传统分类识别方法总结
3. ImageNet与PASCAL VOC数据库
3. 迁移学习(Transfer Learning)
4. 个人研究分享:如何设计新的的网络
5. 实例训练:物体识别/场景识别/文字识别 (TensorFlow)
第六课 卷积神经网络:目标检测与追踪 (Object Detection and Object Tracking)
1. 目标检测与追踪任务介绍
2. 基于手动设计特征的传统目标检测追踪方法总结
3. 目标检测:RCNN,Fast-RCNN,Faster-RCNN, FPN系列
4. 目标检测:YOLO,SSD,YOLO9000系列
5. 目标追踪:Hierarchical Features, Tracking with FCNs系列
6. TensorFlow官方目标检测接口:Object Detection API
7. 个人研究分享:自然场景文本检测识别领域的最新方法与动向
8. 实例:目标检测模型训练/部署 (TensorFlow)
第七课 卷积神经网络:目标分割 (Object Segmentation)
1. 目标分割任务介绍
2. 传统图片分割方法总结
3. 全卷积网络 (Fully Convolutional Networks, FCNs)
4. 图像语义分割(Image Semantic Segmentation)
5. 图像实例分割(Image Instance Segmentation)
6. 目标分割:FCIS, Mask-RCNN系列
7. 业界应用:目标分类/检测/分割模型在自动驾驶与无人车中的应用
8. 实例:目标分割模型训练/部署 (TensorFlow)
第八课 循环神经网络:(Recurrent Neural Network, RNN)
1. RNN基本原理
2. 改进版RNN:门限循环单元(Gated Recurrent Unit, GRU)
3. 改进版RNN:长短期记忆单元(Long Short Term Memory,LSTM)
4. 语言特征提取:Word2Vec
5. 编码器 + 解码器结构:Encoder + Decoder
6. 注意力机制模型:Attention Model
7. 图片标注(Image Captioning):学会看图说话,show and tell
8. 图片问答(Visual Question Answering, VQA):学会看图推理
9. 业界应用:Language and Vision,语言文字与图像的结合应用
10. 实例:图片标注与图片问答实例 (TensorFlow, PyTorch)
第九课 无监督式学习:(Unsupervised Learning)
1. 无监督式学习:以生成式模型(Generative Models)为例
2. 生成式对抗网络:(Generative Adversarial Networks, GANs)
3. DCGAN:GAN +深度学习
4. Conditional GAN: 生成图片由我控制
5. InfoGAN: 无监督找特征
6. Wasserstein GAN: 理论创新
7. 实例:Pix2Pix/CycleGAN 自定义图片生成 (TensorFlow, PyTorch)
第十课 增强学习:(Reinforcement Learning)
1. 增强学习基础
2. DQN 深度增强学习
3. DQN 改进模型
4. A3C模型: 高效游戏机器人
5. ELF模型:简化版《星际争霸》,人工智能游戏测试平台
6. 实例: DQN用于Atari游戏学习 (TensorFlow)
- 第一讲【资料】-深度学习总体介绍与神经网络入门
- 第一讲【回放】-深度学习总体介绍与神经网络入门
- 第二讲【资料】-传统神经网络
- 第二讲【回放】-传统神经网络
- 第三讲【资料】-卷积神经网络基础
- 第三讲【回放】-卷积神经网络基础
- 第四讲【资料】-卷积神经网络进阶
- 第四讲【回放】-卷积神经网络进阶
- 第五讲【资料】卷积神经网络:目标分类与识别
- 第五讲【回放】卷积神经网络:目标分类与识别
- 第六讲【资料】卷积神经网络:目标检测与追踪
- 第六讲【回放】卷积神经网络:目标检测与追踪
- 第七讲【资料】目标追踪与目标分割
- 第七讲【回放】目标追踪与目标分割
- 第八讲【资料】循环神经网络与序列学习
- 第八讲【回放】循环神经网络与序列学习
- 第八讲续【回放】卷积神经网络与循环神经网络的结合应用
- 第八讲续【资料】卷积神经网络与循环神经网络的结合应用
- 第九讲【资料】无监督式学习与生成对抗网络
- 第九讲【回放】无监督式学习
- 第十讲【资料】深度强化学习
- 第十讲【回放】深度强化学习
小象学院《深度学习》第五期
66666666666666 666 学习下~~~~~~~~~~~~ 1 6666666666666666666 zezeze 资源共享吧真是一个好地方!