(特价书)深度学习：核心技术、工具与案例解析

第2章　深度学习技术 24
2.1　深度学习基础 24
2.1.1　感知器 26
2.1.2　激活函数 27
2.1.3　输入层、隐藏层、输出层 29
2.1.4　前向传播与反向传播求导 29
2.2　CNN 30
2.2.1　前馈网络解决图像存在的问题 31
2.2.2　卷积神经网络 31
2.2.3　图像的几个不变性 33
2.2.4　卷积 34
2.2.5　池化 38
2.2.6　Inception 39
2.2.7　Flatten层和全连接层 39
2.2.8　跳层连接 40
2.2.9　经典CNN 41
2.3　RNN 41
2.3.1　RNN结构 42
2.3.2　基本结构与前向传播 43
2.3.3　BPTT 44
2.3.4　LSTM 46
2.3.5　RNN拓展 50
2.4　最优化算法 52
2.4.1　梯度下降 52
2.4.2　Adam 54
2.5　本章小结 56
第3章　TensorFlow基础 57
3.1　TensorFlow 57
3.2　获取与安装 60
3.3　变量及作用域 61
3.4　构建计算图 66
3.5　全连接网络构建 71
3.6　CNN构建 78
3.7　RNN构建 82
3.8　多架构运行 85
3.8.1　GPU使用 85
3.8.2　多CPU使用 86
3.9　队列使用 88
3.10　本章小结 89
第4章　TensorFlow进阶 90
4.1　TensorFlow架构与原理 90
4.2　TensorFlow扩展 93
4.2.1　TF Layers 94
4.2.2　TF Slim 95
4.2.3　TFLearn 96
4.2.4　Keras 99
4.3　Tensorboard与问题监控 101
4.4　改善深度神经网络 103
4.5　性能优化建议 105
4.6　深度神经网络结构 107
4.6.1　Inception结构 107
4.6.2　ResNet结构 108
4.6.3　Seq2Seq结构 108
4.6.4　Attention 109
4.7　本章小结 110
第5章　语音识别器 111
5.1　任务分析 111
5.2　数据与特征分析 114
5.2.1　语音数据库 114
5.2.2　语音数据特征 115
5.3　主流语音识别网络结构 119
5.3.1　用于语音识别的CNN 120
5.3.2　用于语音识别的RNN 122
5.4　CTC Loss 123
5.5　文本向量化 126
5.5.1　英文文本向量化 126
5.5.2　中文文本向量化 129
5.5.3　文本标签比对 130
5.6　完整构建神经网络 131
5.6.1　构建CNN识别网络 132
5.6.2　用于语音识别的RNN 136
5.7　数据训练 138
5.8　参数调优 140
5.9　实际数据分析 141
5.10　本章小结 142
第6章　对话机器人 143
6.1　对话机器人概述与应用领域 143
6.2　对话机器人主流技术 145
6.2.1　基于模板的对话机器人 145
6.2.2　基于检索技术的对话机器人 146
6.2.3　基于深度学习的对话机器人 146
6.3　对话机器人的前沿与功能扩展 147
6.4　深度学习对话机器人原理 149
6.5　构建对话机器人 150
6.5.1　Bot界面与交互 150
6.5.2　语料预处理 155
6.5.3　模型构建 161
6.5.4　训练流程 163
6.5.5　在线推断 165
6.6　本章小结 166
第7章　人脸识别器 167
7.1　任务分析 167
7.2　Detection、Aliment与Identify 170
7.3　数据特征分析 172
7.3.1　人脸位置和范围数据 173
7.3.2　人脸关键点数据 174
7.3.3　人脸识别数据库 176
7.4　haar分类器方式 178
7.4.1　固定特征的提取 178
7.4.2　分类器 180
7.4.3　代码实现 182
7.5　神经网络方法演进 183
7.6　人脸识别网络构建 185
7.6.1　人脸检测网络MTCNN 185
7.6.2　用于人脸检测的GoogleNet 188
7.7　主流人脸识别网络差异分析 190
7.8　TensorFlow搭建网络 191
7.9　参数调优 193
7.10　实战分析 195
7.11　本章小结 197
第8章　自动驾驶 198
8.1　自动驾驶的介绍与应用领域 198
8.1.1　自动驾驶的应用场景 199
8.1.2　自动驾驶分级 199
8.2　自动驾驶技术 201
8.2.1　端到端的自动驾驶历史 202
8.2.2　底层硬件支撑技术平台 203
8.3　深度增强学习 204
8.4　行车检测 208
8.4.1　物体检测 208
8.4.2　YOLO模型 209
8.4.3　车辆图像数据探索 211
8.4.4　车辆视频数据预处理 212
8.4.5　迁移学习 212
8.4.6　模型推断 213
8.4.7　绘制检测结果 213
8.5　端到端自动驾驶 216
8.5.1　英伟达End to End模型 216
8.5.2　评估指标 219
8.5.3　数据分析 219
8.5.4　读入视频，并处理图像 222
8.5.5　深度学习模型构建与训练 222
8.5.6　可视化结果 223
8.6　本章小结 224
8.7　参考资料 224
第9章　可视化实践 225
9.1　可视化发展 225
9.2　可视化过程 227
9.3　Matplotlib 228
9.4　ECharts 230
9.5　可视化实践 232
9.6　三维可视化 234
9.7　动态可视化 237
9.8　本章小结 239
第10章　优化实践 240
10.1　通用深度神经网络训练优化建议 240
10.1.1　过拟合与欠拟合 242
10.1.2　数据增强 244
10.1.3　梯度消失 245
10.1.4　初始化权值 245
10.1.5　优化算法 246
10.1.6　超参数选择 247
10.2　深度学习系统性能优化建议 250
10.2.1　输入及预处理流水线优化 250
10.2.2　数据格式 251
10.2.3　编译优化 252
10.2.4　GPU性能瓶颈诊断 252
10.2.5　CPU瓶颈优化 254
10.2.6　模型压缩 255
10.3　工程实践建议 256
10.3.1　Model格式转换 256
10.3.2　迁移学习 256
10.3.3　在线推断TensorFlow Serving 259
10.4　本章小结 260

.　　第4章详细介绍了TensorFlow的高阶特性与实战优化最佳实践。
　　第5章从实际出发，详细介绍如何通过深度学习技术构建语音识别器，采用主流深度学习语音识别模型作为实例。
　　第6章详细介绍了对话机器人领域的技术，以及如何通过深度学习技术构建对话机器人。
　　第7章详细介绍了深度学习的重要应用领域——人脸识别，以及主流的人脸识别模型与实践。
　　第8章介绍了自动驾驶领域的相关技术，以及如何通过深度学习进行车辆检测和端到端的自动驾驶解决方案。
　　第9章详细介绍了深度学习与人工智能中可视化的实例，使得研发人员能够更加直观地诊断优化和呈现结构。
　　第10章总结了深度学习训练和推断中可能会涉及的、需要注意和调节的优化点，希望他山之石可以攻玉。
　　如果你有一定深度学习的经验，能够理解深度学习和TensorFlow的相关基础知识和使用技巧，那么可以直接阅读本书第5～10章。如果你是一名初学者，最好从第1章的基础知识开始学起。
　　勘误和支持
　　由于水平有限，编写时间仓促，书中难免会出现一些错误或者不准确的地方，恳请读者批评指正。如果你有更多的宝贵意见，请反馈给我们，我们会尽量为你提供最满意的解答，欢迎读者朋友加QQ群（687690969）进行技术交流。
　　你可以通过微博@高彦杰gyj，公共号“戏说AI大数据”，邮箱“gaoyanjie55@163.com”联系到高彦杰。
　　你也可以通过知乎专栏“神经网络学习与Tensorflow.实践”，邮箱“cangye@hotmail.com”联系到于子叶。
　　期待能够得到你的真挚反馈，在技术之路上互勉共进。
　　致谢
　　感谢机械工业出版社华章公司的编辑杨福川和张锡鹏，在近半年的时间里始终支持我们的写作，是你们的鼓励和帮助引导我们顺利完成全部书稿。
　　特别致谢
　　谨以此书献给我们最亲爱的爱人、家人、同事，以及众多热爱深度学习与人工智能技术的朋友们！