[套装书]Keras深度学习：入门、实战与进阶+Keras深度学习实战（2册）

1.2.8　ONNX7
1.3　配置深度学习的软件环境8
1.3.1　安装Anaconda8
1.3.2　在Anaconda中安装TensorFlow8
1.3.3　在Anaconda中安装Keras10
1.3.4　安装R和RStudio10
1.3.5　在RStudio中安装TensorFlow12
1.3.6　在RStudio中安装Keras12
1.4　Keras构建深度学习模型13
1.4.1　MNIST数据集13
1.4.2　数据预处理14
1.4.3　模型建立及训练16
1.4.4　模型评估及预测18
1.5　本章小结22
第2章　深度学习简介23
2.1　神经网络基础23
2.1.1　神经元23
2.1.2　激活函数24
2.1.3　神经网络的拓扑结构30
2.1.4　神经网络的主要类型31
2.1.5　损失函数32
2.2　优化网络的方法33
2.2.1　梯度下降算法33
2.2.2　自适应学习率算法37
2.3　防止模型过拟合42
2.3.1　过拟合与欠拟合42
2.3.2　正则化的方法43
2.3.3　数据拆分44
2.3.4　Dropout45
2.4　综合实例：电信流失用户预测46
2.4.1　数据预处理46
2.4.2　选择优化器47
2.4.3　增加内部隐藏层神经元数量48
2.4.4　采用正则化避免过拟合49
2.5　本章小结52
第3章　如何用Keras开发深度学习模型53
3.1　Keras模型的生命周期53
3.1.1　数据预处理53
3.1.2　定义网络56
3.1.3　编译网络58
3.1.4　训练网络58
3.1.5　评估网络60
3.1.6　做出预测61
3.2　Keras模型61
3.2.1　序贯模型61
3.2.2　使用函数式API创建的模型63
3.3　模型可视化66
3.3.1　网络拓扑可视化66
3.3.2　模型训练可视化67
3.3.3　TensorBoard可视化70
3.4　Keras中的回调函数77
3.4.1　回调函数介绍77
3.3.2　使用回调函数寻找最优模型80
3.5　模型保存及序列化82
3.5.1　使用HDF5格式保存模型83
3.5.2　使用JSON格式保存模型87
3.5.3　使用YAML格式保存模型88
3.6　本章小结88
第4章　深度学习的图像数据预处理89
4.1　图像处理EBImage包89
4.1.1　图像读取与保存89
4.1.2　图像对象和矩阵91
4.1.3　色彩管理94
4.1.4　图像处理97
4.1.5　空间变换99
4.1.6　图像滤波102
4.1.7　形态运算105
4.1.8　图像分割106
4.2　利用Keras进行图像预处理107
4.2.1　图像读取与保存107
4.2.2　图像生成器image_data_generator110
4.2.3　image_data_generator实例115
4.3　综合实例：对彩色花图像进行分类118
4.3.1　图像数据读取及探索118
4.3.2　MLP模型建立及预测122
4.3.3　CNN模型建立与预测124
4.3.4　利用数据增强改善CNN模型126
4.4　本章小结128
第5章　全连接神经网络的经典实例129
5.1　回归问题实例：波士顿房价预测129
5.1.1　波士顿房价数据描述129
5.1.2　波士顿房价数据预处理131
5.1.3　波士顿房价预测131
5.2　多分类实例：鸢尾花分类134
5.2.1　鸢尾花数据描述134
5.2.2　鸢尾花数据预处理136
5.2.3　鸢尾花分类建模137
5.3　二分类实例：印第安人糖尿病诊断139
5.3.1　印第安人糖尿病数据描述139
5.3.2　印第安人糖尿病数据预处理141
5.3.3　印第安人糖尿病诊断建模142
5.4　二分类实例：泰坦尼克号上旅客生存预测144
5.4.1　泰坦尼克号的旅客数据描述145
5.4.2　泰坦尼克号的旅客数据预处理146
5.4.3　生存预测建模149
5.5　多分类实例：彩色手写数字图像识别151
5.5.1　彩色手写数字图像数据描述151
5.5.2　彩色手写数字图像数据预处理152
5.5.3　彩色手写数字图像数据建模155
5.6　本章小结158
第6章　卷积神经网络及图像分类159
6.1　卷积神经网络原理159
6.1.1　卷积层161
6.1.2　卷积层的Keras实现163
6.1.3　池化层167
6.1.4　池化层的Keras实现168
6.1.5　全连接层171
6.2　多分类实例：小数据集的图像识别171
6.2.1　导入本地图像数据171
6.2.2　图像数据预处理173
6.2.3　建立全连接神经网络模型识别小数据集图像175
6.2.4　建立简单卷积神经网络识别小数据集图像177
6.2.5　建立复杂卷积神经网络识别小数据集图像180
6.3　多分类实例：彩色手写数字图像识别183
6.3.1　导入及处理本地手写数字图像183
6.3.2　MNIST数据预处理185
6.3.3　构建简单卷积神经网络识别彩色手写数字186
6.3.4　构建复杂卷积神经网络识别彩色手写数字189
6.4　多分类实例：CIFAR-10图像识别192
6.4.1　CIFAR-10数据描述192
6.4.2　加载CIFAR-10数据192
6.4.3　CIFAR-10数据预处理194
6.4.4　构建简单卷积神经网络识别CIFAR-10图像195
6.4.5　构建复杂卷积神经网络识别CIFAR-10图像199
6.5　本章小结204
第7章　循环神经网络205
7.1　简单循环网络205
7.1.1　简单循环网络基本原理206
7.1.2　简单循环网络的Keras实现207
7.1.3　多分类实例：SimpleRNN实现手写数字识别208
7.1.4　回归问题实例：SimpleRNN预测纽约出生人口数量211
7.2　长短期记忆网络（LSTM）216
7.2.1　LSTM基本原理216
7.2.2　LSTM的Keras实现218
7.2.3　回归问题实例：LSTM预测股价221
7.3　门控循环单元（GRU）228
7.3.1　GRU基本原理228
7.3.2　GRU的Keras实现229
7.3.3　回归问题实例：基于GRU网络的温度预测230
7.4　本章小结235
第8章　自编码器236
8.1　自编码器介绍236
8.1.1　自编码器的基本结构237
8.1.2　使用Keras建立简单自编码器238
8.1.3　稀疏自编码器242
8.1.4　降噪自编码器245
8.1.5　栈式自编码器248
8.2　实例：使用自编码器预测信用风险252
8.2.1　数据理解252
8.2.2　数据预处理254
8.2.3　构建自编码器254
8.2.4　模型训练255
8.2.5　模型预测255
8.3　实例：使用自编码器建立推荐系统258
8.3.1　数据理解259
8.3.2　数据预处理260
8.3.3　构建自编码器261
8.3.4　模型训练263
8.3.5　模型预测263
8.4　本章小结264
第9章　生成式对抗网络265
9.1　生成式对抗网络简介265
9.2　实例：使用GAN生成手写数字268
9.2.1　数据准备268
9.2.2　构建生成器269
9.2.3　构建判别器271
9.2.4　生成GAN模型271
9.2.5　训练GAN模型273
9.3　实例：深度卷积生成式对抗网络277
9.3.1　构建生成器279
9.3.2　构建判别器280
9.3.3　编译模型281
9.3.4　训练DCGAN模型282
9.4　本章小结285
第10章　使用R语言进行文本挖掘286
10.1　文本挖掘流程286
10.2　相关R包简介及安装287
10.2.1　tm包简介及安装287
10.2.2　tmcn包简介及安装287
10.2.3　Rwordseg包简介及安装289
10.2.4　jiebaR包简介及安装290
10.2.5　tidytext包简介及安装290
10.3　tm包快速上手290
10.3.1　数据读写290
10.3.2　语料库转换292
10.3.3　语料库过滤293
10.3.4　元数据管理294
10.3.5　词条-文档关系矩阵296
10.4　tmcn包快速上手298
10.4.1　中文语料资源298
10.4.2　中文编码转换300
10.4.3　字符操作301
10.5　Rwordseg包快速上手302
10.5.1　中文分词302
10.5.2　添加和卸载自定义词典303
10.6　jiebaR包快速上手305
10.6.1　分词引擎305
10.6.2　自定义词典308
10.6.3　停止词过滤312
10.6.4　关键词提取313
10.7　tidytext包快速上手315
10.7.1　整洁文本格式315
10.7.2　使用tidy处理中国四大名著320
10.7.3　对中国四大名著进行词频统计322
10.7.4　非整洁格式转换325
10.8　本章小结327
第11章　如何使用Keras处理文本数据328
11.1　使用text_to_word_sequence分词328
11.2　使用独热编码329
11.3　分词器Tokenizer331
11.4　使用pad_sequences填充文本序列335
11.5　词嵌入337
11.5.1　学习词嵌入337
11.5.2　实例：学习词嵌入338
11.5.3　预训练词嵌入342
11.5.4　实例：预训练GloVe嵌入343
11.6　本章小结348
第12章　情感分析实例：IMDB影评情感分析349
12.1　IMDB数据集349
12.1.1　加载IMDB数据集349
12.1.2　查看IMDB数据集350
12.2　利用机器学习进行情感分析352
12.2.1　数据预处理352
12.2.2　机器学习预测情感353
12.3　利用深度学习进行情感分析356
12.3.1　数据预处理356
12.3.2　多层感知器模型357
12.3.3　卷积神经网络模型359
12.3.4　RNN模型361
12.3.5　LSTM模型363
12.3.6　GRU模型365
12.4　本章小结367
第13章　中文文本分类实例：新浪新闻分类实例368
13.1　SPORT数据集368
13.2　利用机器学习进行文本分类374
13.2.1　数据预处理374
13.2.2　数据分区376
13.2.3　机器学习建模376
13.3　利用深度学习进行文本分类378
13.3.1　数据预处理378
13.3.2　多层感知器模型379
13.3.3　一维卷积神经网络模型381
13.3.4　RNN模型383
13.3.5　LSTM模型385
13.3.6　GRU模型386
13.3.7　双向LSTM模型388
13.3.8　比较深度学习模型的预测效果389
13.4　本章小结390
第14章　通过预训练模型实现迁移学习391
14.1　迁移学习概述391
14.2　Keras预训练模型概述393
14.3　VGGNet卷积网络模型393
14.3.1　VGGNet概述394
14.3.2　加载预训练VGG16网络395
14.3.3　预测单张图像内容397
14.3.4　预测多张图像内容400
14.3.5　提取预训练网络输出特征实现花卉图像分类器402
14.4　ResNet卷积网络模型410
14.4.1　ResNet概述410
14.4.2　ResNet50的Keras实现411
14.5　本章小结413



---------------------------8060194 - Keras深度学习实战---------------------------


译者序
审校者简介
前言
第1章　Keras安装 1
1.1　引言 1
1.2　在Ubuntu 16.04上安装Keras 1
1.2.1　准备工作 2
1.2.2　怎么做 2
1.3　在Docker镜像中使用Jupyter Notebook安装Keras 7
1.3.1　准备工作 7
1.3.2　怎么做 7
1.4　在已激活GPU的Ubuntu 16.04上安装Keras 9
1.4.1　准备工作 9
1.4.2　怎么做 10
第2章　Keras数据集和模型 13
2.1　引言 13
2.2　CIFAR-10数据集 13
2.3　CIFAR-100数据集 15
2.4　MNIST数据集 17
2.5　从CSV文件加载数据 18
2.6　Keras模型入门 19
2.6.1　模型的剖析 19
2.6.2　模型类型 19
2.7　序贯模型 20
2.8　共享层模型 27
2.8.1　共享输入层简介 27
2.8.2　怎么做 27
2.9　Keras函数API 29
2.9.1　怎么做 29
2.9.2　示例的输出 31
2.10　Keras函数API——链接层 31
2.11　使用Keras函数API进行图像分类 32
第3章　数据预处理、优化和可视化 36
3.1　图像数据特征标准化 36
3.1.1　准备工作 36
3.1.2　怎么做 37
3.2　序列填充 39
3.2.1　准备工作 39
3.2.2　怎么做 39
3.3　模型可视化 41
3.3.1　准备工作 41
3.3.2　怎么做 41
3.4　优化 43
3.5　示例通用代码 43
3.6　随机梯度下降优化法 44
3.6.1　准备工作 44
3.6.2　怎么做 44
3.7　Adam优化算法 47
3.7.1　准备工作 47
3.7.2　怎么做 47
3.8　AdaDelta优化算法 50
3.8.1　准备工作 51
3.8.2　怎么做 51
3.9　使用RMSProp进行优化 54
3.9.1　准备工作 54
3.9.2　怎么做 54
第4章　使用不同的Keras层实现分类 58
4.1　引言 58
4.2　乳腺癌分类 58
4.3　垃圾信息检测分类 66
第5章　卷积神经网络的实现 73
5.1　引言 73
5.2　宫颈癌分类 73
5.2.1　准备工作 74
5.2.2　怎么做 74
5.3　数字识别 84
5.3.1　准备工作 84
5.3.2　怎么做 85
第6章　生成式对抗网络 89
6.1　引言 89
6.2　基本的生成式对抗网络 90
6.2.1　准备工作 91
6.2.2　怎么做 91
6.3　边界搜索生成式对抗网络 98
6.3.1　准备工作 99
6.3.2　怎么做 100
6.4　深度卷积生成式对抗网络 106
6.4.1　准备工作 107
6.4.2　怎么做 108
第7章　递归神经网络 116
7.1　引言 116
7.2　用于时间序列数据的简单RNN 117
7.2.1　准备工作 118
7.2.2　怎么做 119
7.3　时间序列数据的LSTM网络 128
7.3.1　LSTM网络 128
7.3.2　LSTM记忆示例 129
7.3.3　准备工作 129
7.3.4　怎么做 129
7.4　使用LSTM进行时间序列预测 133
7.4.1　准备工作 134
7.4.2　怎么做 135
7.5　基于LSTM的等长输出序列到序列学习 143
7.5.1　准备工作 143
7.5.2　怎么做 144
第8章　使用Keras模型进行自然语言处理 150
8.1　引言 150
8.2　词嵌入 150
8.2.1　准备工作 151
8.2.2　怎么做 151
8.3　情感分析 157
8.3.1　准备工作 157
8.3.2　怎么做 159
8.3.3　完整代码清单 162
第9章　基于Keras模型的文本摘要 164
9.1　引言 164
9.2　评论的文本摘要 164
9.2.1　怎么做 165
9.2.2　参考资料 172
第10章　强化学习 173
10.1　引言 173
10.2　使用Keras进行《CartPole》游戏 174
10.3　使用竞争DQN算法进行《CartPole》游戏 181
10.3.1　准备工作 183
10.3.2　怎么做 187

.　　进行深度学习应用研究的科研人员。
　　如何阅读本书
　　全书一共14章，涵盖了主流深度学习框架介绍、TensorFlow和Keras深度学习环境搭建，以及如何利用Keras开发深度学习模型。本书的重点是深度学习在图像和文本方面的数据处理及应用，各种深度学习网络均有相应的实例，目的是让读者既能通过本书学到深度学习理论，又能通过实例学习提升动手能力，将所学知识迁移到实际工作中。
　　第1章首先介绍了机器学习与深度学习的区别及联系，以及目前主流的深度学习框架。然后详细介绍了如何安装Python的科学计算环境Anaconda、R语言的IDE工具RStudio，以及如何在Anaconda和RStudio中安装TensorFlow和Keras。最后以深度学习中的入门数据集MNIST为例，介绍如何利用Keras构建深度学习模型。
　　第2章介绍了深度学习的基础知识。首先介绍神经网络常用激活函数、网络拓扑结构及损失函数，然后介绍网络优化的方法及如何防止模型过拟合，最后通过一个综合实例介绍如何使用技巧优化深度学习神经网络，提升模型的预测能力。
　　第3章详细介绍了如何用Keras开发深度学习模型。内容包括Keras模型的生命周期、Keras的两种模型、模型可视化、Keras中的回调函数与模型的保存及序列化等。
　　第4章介绍了深度学习的图像数据预处理技术。首先重点介绍了图像处理EBImage包的使用，包含图像的读取和保存、图像处理等技术，然后介绍了利用Keras如何进行图像预处理，最后通过一个综合实例介绍了如何对小数据集的彩色花图像进行批量读取及处理，并建立多种深度学习模型来对比效果，及通过数据增强技术提升模型的预测能力。
　　第5章～第9章分别详细介绍了深度学习常用的神经网络模型：全连接神经网络、卷积神经网络、循环神经网络、自编码器和生成式对抗网络。
　　第5章通过多个实例引导读者如何用全连接神经网络解决各种经典的预测问题，包含波士顿房价预测的回归问题、鸢尾花分类和彩色手写数字图像识别的多分类问题、印第安人糖尿病诊断和泰坦尼克号旅客生存预测的二分类问题。
　　第6章首先介绍了卷积神经网络的基本原理及Keras实现，并通过多个实例帮助读者掌握卷积神经网络的使用，包含小数据集的图像识别、彩色手写数字图像识别以及经典的CIFAR-10图像识别的多分类实例。
　　第7章首先介绍了简单循环网络（SimpleRNN）的基本原理及Keras实现，并利用SimpleRNN实现手写数字识别及预测纽约出生人口数量。然后介绍了长短期记忆网络（LSTM）的基本原理及Keras实现，并利用LSTM实现股价预测。最后介绍了门控循环单元网络（GRU）的基本原理及Keras实现，并基于GRU网络对温度进行预测。
　　第8章介绍了自编码器的基本结构以及常用自编码器（稀疏自编码器、降噪自编码器以及栈式自编码器）的基本原理及Keras实现，并利用两个实例引导读者将自编码器应用在不同的实际场景中。
　　第9章首先介绍了生成式对抗网络（GAN）的基本原理，然后给出了两个实例：使用GAN生成手写数字，深度卷积生成式对抗网络。
　　第10章～第13章详细介绍了利用深度学习对文本数据进行预处理及建模的技术，并重点介绍了对中文文本的处理及建模。
　　第10章介绍了R语言用于文本挖掘的常用扩展包，包括tm包、tmcn包、Rwordseg包、jiebaR包以及tidytext包。
　　第11章介绍了如何使用Keras处理文本数据，包括文本分词、独热编码、分词器和填充文本序列，还介绍了词嵌入。
　　第12章首先介绍IMDB影评数据集，接着利用机器学习进行情感分析，最后利用多种深度学习模型进行情感分析。
　　第13章首先对新浪体育新闻进行文本分析，然后分别利用机器学习（朴素贝叶斯、决策树、随机森林、GBM、人工神经网络）和深度学习（MLP、CNN、RNN、LSTM、GRU、双向LSTM）进行中文文本分类。
　　第14章首先对迁移学习和Keras预训练模型进行概述，接着对VGGNet模型进行概述，最后对ResNet原理进行概述，并演示如何通过Keras的预训练ResNet50模型实现图像预测。
　　勘误和支持
　　由于笔者的水平有限，加之编写时间仓促，书中难免会出现错误或者不准确的地方，恳请读者批评指正。读者可以把意见或建议直接发至我的邮箱（jiabiao1602@163.com），我将尽力提供满意的解答。期待你们的反馈。
　　书中全部数据及源代码都可以从华章公司网站（www.hzbook.com）下载。
　　致谢
　　感谢机械工业出版社华章公司杨福川的信任，感谢编辑李艺帮助我审阅全部章节。有了你们的支持、鼓励和帮助，本书才得以顺利出版。
　　感谢家人，感谢你们一直以来的理解、陪伴和支持。
　　谨以此书献给我最亲爱的家人以及众多深度学习爱好者及从业者！
　　谢佳标
　　2021年6月
　　
　　
　　---------------------------8060194 - Keras深度学习实战---------------------------
　　
　　
　　Keras采用Python编写，能够快速准确地训练卷积神经网络和递归神经网络，已经成为当下流行的深度学习库。
　　本书讲述了如何在Keras库的帮助下，高效地解决在训练深度学习模型时遇到的各种问题。内容包括如何安装和设置Keras，如何在TensorFlow、Apache MXNet和CNTK后端开发中使用Keras实现深度学习。
　　从加载数据到拟合和评估模型获得最佳性能，你将逐步解决在深度学习建模时可能遇到的所有问题。在本书的帮助下，你将实现卷积神经网络、递归神经网络、对抗网络等。除此之外，你还将学习如何训练这些模型以实现真实的图像处理和语言处理任务。
　　本书的最后，你将完成一个实例以进一步了解如何利用Python和Keras的强大功能实现有效的深度学习。
　　本书读者对象
　　本书适合数据科学家或机器学习专家，可以帮助他们解决在训练深度学习模型时遇到的常见问题。阅读本书前，需要对Python有基本的了解，并了解机器学习和神经网络的内容。
　　本书涵盖的内容
　　第1章介绍了Keras的安装和设置过程以及如何配置Keras。
　　第2章介绍了使用CIFAR-10、CIFAR-100或MNIST等数据集，以及用于图像分类的其他数据集和模型。
　　第3章介绍了使用Keras的各种预处理和优化技术，优化技术包括TFOptimizer、AdaDelta等。
　　第4章详细描述了不同的Keras层，包括递归层和卷积层等。
　　第5章通过宫颈癌分类和数字识别数据集的实例，详细解释如何使用卷积神经网络算法。
　　第6章包括基本的生成式对抗网络（GAN）和边界搜索GAN。
　　第7章涵盖了递归神经网络的基础，以便实现基于历史数据集的Keras。
　　第8 章包括使用Keras进行单词分析和情感分析的NLP基础知识。
　　第9章展示了如何在Amazon评论数据集中使用Keras模型进行文本概述。
　　第10章侧重于使用Keras设计和开发强化学习模型。
　　阅读本书须知
　　读者应该掌握Keras和深度学习的基本知识。
　　排版约定
　　本书中包含许多排版约定。
　　文本中的代码元素、数据库表名、文件夹名、文件名、文件扩展名、路径名、用户输入和Twitter句柄都采用代码字体表示。举个例子：“最后，我们将所有评论保存到pickle文件中。”
　　代码段如下所示：
　　当我们希望引起你对代码块的特定部分的注意时，相关的行或代码会以粗体显示：
　　命令行的输入、输出表示如下：
　　粗体：表示新术语、重要单词或词组。
　　警告或重要说明。
　　提示或小技巧。
　　示例代码及彩图下载
　　本书的示例代码及所有截图和样图，可以从http://www.packtpub.com通过个人账号下载，也可以访问华章图书官网http://www.hzbook.com，通过注册并登录个人账号下载。
　　

.　　
　　采用Python编写的Keras能够快速准确地训练卷积和递归神经网络，这使得Keras在很短的时间里就成为一个流行的深度学习库。
　　本书介绍了如何在时下流行的Keras库的帮助下，解决训练深度学习模型时遇到的各种问题。从安装和设置Keras开始，展示了如何使用Keras进行深度学习；从加载数据到拟合、评估模型获得最佳性能，逐步解决工作过程中遇到的每一个问题。在本书的帮助下，你可以分别实现卷积神经网络、递归神经网络、生成式对抗网络等。除此之外，本书还讲述了如何训练这些模型以完成图像处理和语言处理的任务。
　　本书最后还给出了一些实例，可以帮助你直观地了解Python和Keras在深度学习上的强大功能。
　　通过阅读本书，你将学到：
　　· 在TensorFlow中安装和配置Keras
　　· 使用Keras库进行神经网络编程
　　· 了解不同的Keras层
　　· 使用Keras实现简单的前馈神经网络、卷积神经网络和递归神经网络
　　· 使用各种数据集和模型进行图像和文本分类
　　· 使用Keras开发文本摘要和强化学习模型