深度学习—卷积神经网络算法原理与应用

体系完整、通俗易懂，系统讲述卷积神经网络基本原理

详细阐述前向传播、反向传播、优化算法

系统介绍卷积神经网络和自编码器的常用算法

详尽分析算法实例应用

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据。自2006年深度学习概念被提出以来，其以极高的发展速度在各行各业得到了广泛的应用。基于深度学习的新技术、新算法不断涌现。本书以深度学习中卷积神经网络算法原理为基础，对最近几年提出的卷积神经网络进行系统介绍。

本书力求体系完整、通俗易懂，书中系统地讲述了卷积神经网络的基本原理，从前向传播、反向传播、优化算法等方面详细阐述。同时对卷积神经网络和自编码器的常用算法进行介绍。针对算法实例应用进行分析。

本书资料搜集工作：袁国亮搜集整理第6章，吕朦搜集整理第4章、第8章，刘文洲搜集整理第5章，郑旭、万溪洲、郭钊搜集整理第2章、第3章、第7章、第8章。

本书在内容上注重精选、结合实际、突出应用。主要面向人工智能及相关专业的高年级本科生及研究生，也可做为从事深度学习的软件工程师的参考书目。

由于编者水平有限，加之时间仓促，书中难免存在不当和谬误之处，恳请有关专家和广大读者不吝赐教。

编 者

2019年1月

第1章 绪论 1
1.1 深度学习 1
1.1.1 概述 1
1.1.2 基本思想 2
1.1.3 基本分类 2
1.2 卷积神经网络技术的发展与应用 4
1.2.1 卷积神经网络的发展 4
1.2.2 卷积神经网络的应用 5
1.3 自编码器的发展及其应用 5
1.3.1 自编码器的发展 5
1.3.2 自编码器的应用 5
第2章 相关数学基础知识 7
2.1 矩阵 7
2.1.1 基本概念 7
2.1.2 矩阵运算 8
2.2 范数 11
2.2.1 范数的定义 11
2.2.2 范数的分类及性质 11
2.3 卷积运算 13
2.3.1 定义 13
2.3.2 多维数组的卷积 14
2.4 激活函数 15
2.4.1 线性激活函数 15
2.4.2 非线性激活函数 16
2.5 信息熵 24
2.5.1 定义 24
2.5.2 条件熵 25
2.5.3 相对熵 26
2.5.4 交叉熵 26
习题 27
第3章 神经网络 28
3.1 人工神经网络 28
3.1.1 人工神经元模型 28
3.1.2 人工神经网络结构 29
3.2 BP神经网络 30
3.2.1 原理 30
3.2.2 网络结构 31
3.2.3 BP神经算法原理 32
3.2.4 信号传递过程的实现 34
3.2.5 算法分析 35
习题 36
第4章 卷积神经网络 37
4.1 原理 37
4.1.1 动机 37
4.1.2 卷积神经网络特点 37
4.2 LeNet-5 38
4.2.1 网络总体结构 38
4.2.2 分层结构 39
4.3 反向传播 43
4.3.1 全连接的反向过程 43
4.3.2 卷积的反向过程 43
4.3.3 池化的反向过程 46
4.3.4 输出层反向传播 47
4.3.5 权值更新 48
习题 49
第5章 卷积神经网络扩展机制 50
5.1 注意力机制 50
5.1.1 注意机制的分类 50
5.1.2 深度学习中的注意机制 51
5.2 卷积变体 53
5.2.1 组卷积 53
5.2.2 深度可分离卷积 55
5.2.3 膨胀卷积 56
5.2.4 全卷积网络 57
习题 59
第6章 自编码器网络 60
6.1 相关概念 60
6.1.1 稀疏性 60
6.1.2 稀疏编码 60
6.2 自编码器概述 61
6.3 自编码器原理 62
6.4 自编码器的拓展网络 65
6.4.1 稀疏自编码 65
6.4.2 栈式自编码 67
6.4.3 去噪自编码 69
6.4.4 压缩自编码 70
6.5 自编码器的编程实现 72
习题 72
第7章 卷积神经网络的优化 73
7.1 正则化与归一化 73
7.1.1 概念 73
7.1.2 参数范数惩罚 74
7.1.3 Dropout 75
7.1.4 归一化 77
7.2 基于梯度的优化方法 78
7.2.1 基本算法 79
7.2.2 自适应学习率算法 84
习题 87
第8章 卷积神经网络的典型结构 88
8.1 概述 88
8.2 AlexNet网络 88
8.2.1 AlexNet基本框架 88
8.2.2 AlexNet数据处理 89
8.3 GoogLenet网络 93
8.3.1 背景 93
8.3.2 Inception V1 93
8.3.3 Inception V2与V3 94
8.3.4 Inception V4 95
8.3.5 Xception 96
8.4 ResNet网络结构 97
8.4.1 ResNet网络 97
8.4.2 ResNeXt 98
8.5 ShuffleNet网络结构 100
8.5.1 网络简介 100
8.5.2 模型结构 100
8.5.3 ShuffleNet V2 102
8.6 DenseNet网络结构 102
8.6.1 Dense block 103
8.6.2 整体结构 103
8.7 数据集介绍 104
8.7.1 图像分类数据集 104
8.7.2 语义分割数据集 109
第9章 卷积神经网络的压缩 112
9.1 核的稀疏化 112
9.2 剪枝 113
9.2.1 剪枝的概念 113
9.2.2 剪枝的类型 113
9.3 模型量化 114
9.3.1 量化转换 114
9.3.2 向量化 115
9.4 模型蒸馏 116
参考文献 119
附录 125
BP神经网络实现人脸识别程序 125
自编码器程序 129
AlexNet程序 130
GoogLeNet程序 133
ResNeXt程序 136
DenseNet程序 141

1. 输水管线工程风险管理 [张勇 党亥生 著]
2. 民用航空飞机标准线路施工 [主编　王志敏　陈明]
3. 不息的水脉—大运河讲谈录 [赵珩　著]
4. 实用运筹学 [主编　邢育红　于晋臣]
5. 三峡梯级电站水资源决策支持系统研究与开发 [姚华明 潘红忠 汤正]
6. 海南黎族民俗文化鉴赏 [庞国华　著]
7. 石墨烯在太赫兹及中红外频段电磁器件设计中的应用 [李艳秀 庄华伟 著]
8. 电子技术（第二版） [主编 覃爱娜 李飞]
9. 办公自动化高级应用 [陈萍 朱晓玉]
10. 信息处理技术员考试32小时通关 [薛大龙]
11. 电子产品设计案例教程（微课版）—基于嘉立创EDA（专业版） [王静 莫志宏 陈学昌 丁红]
12. C程序设计实践教程 [刘卫国]
13. C程序设计（慕课版） [刘卫国]
14. Web技术开发教程（基于.NET开源MVC框架） [王合闯 韩红玲 王青正 陈海蕊]
15. 商务英语翻译教程（笔译）（第四版） [主编 王军平]
16. 智慧零售技术与应用 [洪旭 著]
17. 建设工程法规实务 [主编 余滢]
18. 商务秘书理论与实务（第三版） [主编 张同钦]
19. 程序设计基础实践教程（C/C++语言版） [张桂芬 葛丽娜]
20. C++案例项目精讲 [主编 杨国兴]
21. 劳动争议处理实务 [主编 王秀卿 罗静]
22. 工程数学 [主编 郭立娟 王海]
23. 语音识别理论与实践 [主编　莫宏伟]
24. 信息系统项目管理师章节习题与考点特训（第二版） [主编 薛大龙]
25. 武术基础教程 [主编 李代勇 谢志民]
26. 计算机网络实训教程 [主编 张浩军 赵玉娟]
27. 画法几何与机械制图习题集（多学时） [主编 赵军]
28. HCIA-Datacom认证题库分类精讲 [主 编 韩立刚]
29. SwiftUI完全开发 [李智威 著]
30. 网络规划设计师备考一本通 [夏杰 编著]