(特价书)预测分析：R语言实现

    书籍
    计算机书籍
R提供了一个免费、开源的环境，这对于学习预测建模以及在真实环境下部署解决方案是很理想的。随着不断增长的社区和大量扩展包的出现，R提供了一个应对一系列问题的切实解决方案。本书可以作为学习预测建模基础知识的指南和参考读物。本书的开篇是关于模型术语和预测建模过程的一个专门章节。后续的每个章节会讲解具体的一类模型（例如神经网络），并把重点放在三个重要问题上：模型如何工作，如何利用R语言训练模型，以及如何利用实际环境下的数据集来衡量和评估模型的性能。通过阅读本书，读者将利用实际环境下的数据集探讨和测试流行的建模技术，并掌握多种预测分析领域的技术。

译者序
前言
第1章　准备预测建模1
1.1　模型1
1.1.1　从数据中学习2
1.1.2　模型的核心组成部分5
1.1.3　我们的第一个模型：k近邻5
1.2　模型的类型7
1.2.1　有监督、无监督、半监督和强化学习模型7
1.2.2　参数化和非参数化模型8
1.2.3　回归和分类模型8
1.2.4　实时和批处理机器学习模型9
1.3　预测建模的过程9
1.3.1　定义模型的目标9
1.3.2　收集数据10
1.3.3　选取模型11
1.3.4　数据的预处理12
1.3.5　特征工程和降维19
1.3.6　训练和评估模型22
1.3.7　重复尝试不同模型及模型的最终选择25

　　预测分析以及更一般意义上的数据科学当前正处于被追捧的热潮中，因为像垃圾邮件过滤、单词补全和推荐引擎这样的预测性技术已经被广泛运用于日常生活。这些技术现在不仅越来越被我们所熟悉，还赢得了我们的信任。在计算机处理能力和软件方面（例如R语言及其大量专用的扩展包）的发展产生了这样的局面：用户经过培训就可以使用这些工具，而无需具备统计学的高级学位，也不需要使用公司或大学实验室专用的硬件。技术的成熟度和基础软硬件的可用性结合起来，让很多该领域的从业者倍感兴奋，他们感到可以为自己的领域和业务设计一些能产生重要影响的工具，事实也确实如此。
　　与此同时，很多新进入该领域的人士很快发现其中有很多陷阱需要克服。实际上，没有哪个学位足以把一位学生或从业者训练为成功的预测建模者。该领域依赖于很多学科，例如计算机科学、数学和统计学。当前，进入该领域的人们不仅只在其中的一门学科有比较强的背景，还往往会比较专精于其他学科。在给研究生和从业者们讲授了有关本书材料的几次课程之后，我发现学员们反复表达的两个最大担忧是对编程和数学的恐惧。有意思的是，对这两者的表达几乎总是互斥的。预测分析学实际上是一种实践性的学科，但同时也是一种具备较强理论基础的学科，这些理论基础的知识对于从业者是很关键的。因此，掌握预测分析需要一系列不同的技能，从编写良好的软件到实现一种新技术或对数据进行预处理，再到理解某个模型的假设条件，如何有效地训练该模型，如何对该模型出现的问题进行诊断，以及如何调整模型的参数以获得更好的结果。
　　讨论到这里，很自然地会反向思考预测分析学作为一个领域实际会覆盖的内容。事实上，该领域和机器学习、数据挖掘、商业分析学、数据科学等其他相关领域的边界是比较模糊的。本书中会用到的定义非常宽泛。对于本书的主题而言，预测分析学是一个领域，它利用数据建立模型来预测未来我们感兴趣问题的结果。当然，它和机器学习领域会有很大的重叠，机器学习更多地研究从数据中学习的程序和算法。这种重叠的情况对于数据挖掘（以从数据中提取知识和模式为目标）也同样成立。数据科学正在迅速成为覆盖所有这些领域的综合术语，它还包括了其他主题，例如呈现数据分析结果的信息可视化，围绕在实际环境中部署模型的业务概念，以及数据管理。本书会着重于机器学习，但我们不会覆盖学习可行性的理论探索，也不会讲解着眼于从无特定预测目标的数据中寻找模式和聚类的无监督学习方法。取而代之，我们会探索像时间序列这样的一些主题，通常在机器学习的教材里不会讲解它们。
　　无论对于学习预测分析学还是解决实际环境中的问题，R语言都是一个优秀的平台。它是一个开源项目，有一个持续快速增长的用户社区。在编写本书时，它和Python是全世界数据科学家最常用的两种语言。它有很多适用于不同建模技术和应用领域的扩展包，其中很多可以通过连接到Comprehensive R Archive Network (CRAN)从R语言平台本身直接获取。该语言还有很多在线资源，从教程到在线课程都包含在内。我们尤其要提到优秀的交叉验证式论坛（http://stats.stackexchange.com/）以及R-bloggers 网站（http://www.r-bloggers.com/），该网站包含了大量来自不同博客的关于R语言应用的文章。对于那些对R语言有点生疏的读者，我们提供了一个免费在线教程章节，它是从我们在AUEB学生的课程讲义演化而来的。
　　本书的主要任务是在（强调直觉及实践而不是理论的）低端入门教程和（专注于数学、细节和严谨性的）高端学术教材之间的鸿沟上架起桥梁。另一个同等重要的目标是给读者灌输一些良好的实践经验，比如学习如何适当地测试和评估一个模型。我们还要强调一些重要的概念，例如偏误-方差权衡和过拟合，这些概念在预测建模中是普遍存在的，并会在不同模型中以多种形式反复出现。
　　从编程的角度来说，虽然我们假定你已经熟悉R语言，不过还是会详细解释并讨论每个代码示例，以便读者提高他们的自信心，循序渐进。尽管如此，在学习的过程中，或者至少在转到下一章之前，实际运行代码的重要性是如何强调都不为过的。为了尽可能让这个过程顺利进行，我们已经为教材中的所有章节提供了代码文件，其中包含了教材中所有的代码示例。此外，我们还在很多地方编写了自己对于特定技术的简单实现方法。典型的两个示例是第4章里的口袋感知器算法和第7章的AdaBoost自适应增强方法。在某种程度上，这么做是为了鼓励用户学习如何编写他们自己的函数，而不是完全依赖于已有的实现方法，因为并不是所有方法都有现成的函数可用。
　　重现能力是数据分析的一项关键技能，而且它并不限于教育领域。因此，我们大量使用了可自由获取的数据集并尽力在需要随机数生成器的地方运用特定的种子值。最后，我们尽可能尝试利用相对小规模的数据集，以确保读者在阅读本书时运行代码不需要等待太长的时间或被迫寻求更好的硬件。我们要提醒你，在真实世界里，耐心是一种非常有益的美德，因为你感兴趣的大部分数据集会比我们学习本书时用到的更大。
　　每章的结尾是两个或多个实际的建模案例，每章的开始则是一些理解新模型或技术所必需的理论和背景知识。虽然不避讳用数学解释重要的细节，但是我们在这方面很慎重，相关的介绍适可而止，以确保读者能理解相关的基本概念就可以了。这样做符合本书的理念，即弥补入门教程和涉及更多细节的学术教材之间的差距。具备高中数学背景知识的读者可以确信，他们能够借助基本的数学知识完整地学习本书的所有内容。学习所需的关键技能是简单微积分（例如简单微分）、概率论的关键概念（例如均值、方差、相关系数），以及重要的概率分布（例如二项分布和正态分布）。虽然我们不提供这方面的教程，但在前面几章我们的确是循序渐进的。为了照顾那些数学爱好者的需求，我们经常会以提示的形式提供额外的技术细节，并给出一些参考资料作为所讨论内容的自然延伸。
　　有时候，我们需要给出某个概念的直观解释，以节省篇幅，避免另辟一章专门讨论不必要的纯理论。在这么做的时候（例如对第4章里的反向传播算法），我们会确保前后的衔接性，让读者能具备坚实的基础知识来进一步掌握更详细的内容。同时，还会给出精心挑选的参考文献，其中很多都是可读性好而且可以免费获取的文章、论文或在线教材。当然，我们会在任何必要的地方引用重要的教材。
　　本书没有练习题，但是鼓励你把好奇心发挥到极致。好奇心对于预测建模者来说是一种巨大的天赋。我们从中获取了分析数据的很多网站上都有我们没有研究到的其他大量数据集。我们偶尔还会讲解如何创建人工数据来演示某个特定技术背后的概念验证过程。很多用来创建和训练模型的R语言函数都有一些其他调优参数是本书中没有时间讲解的。用到的扩展包也往往会包含和我们讲解的函数相关的其他函数，正如用到的扩展包本身也往往会有其他替代包可用。所有这些都是进一步研究和实验的途径。要掌握预测分析学，认真学习和个人的探索及练习都是同等重要的。
　　学生在该领域的一个普遍诉求，是用额外的实例来模拟有经验的建模者针对数据集所遵循的实际过程。在现实中，可信的模拟过程从分析开始后可能会持续很多小时。这是因为花在预测建模上的大部分时间都用来研究数据、尝试新特征和预处理步骤，以及对结果试验不同的模型。简而言之，正如我们在第1章中将要看到的，探索、试验和误差是有效分析的关键组成部分。编写一本讲解关于每个数据集的错误或不成功方案的书是完全不现实的。相反，强烈推荐读者将本书中的所有数据分析过程视为改进的起点，并自己延续这个过程。好的思路是尝试把其他章节讲解的技术运用于特定数据集，以便观察其他方法是否有效。从简单地给某个输入特征运用不同的变换方式到采用另一章里讲解的完全不同的模型，任何尝试都是可以的。
　　作为最后一个提示，我们要指出，创建美观规范的图来呈现数据分析结果是一项重要的技能，尤其是在职场中。虽然R语言的基础绘图能力覆盖了基本的需求，但它往往缺乏美观性。因此，除了用分析代码中的某些函数产生的特定图形之外，我们会用ggplot2包绘图。虽然我们不提供这方面的教程，但是本书中包括的所有产生绘图的代码都在配套的代码文件里，希望用户可以从中受益。ggplot2包的一个很有用的在线参考资料是“the Cookbook for R”（http://www.cookbook-r.com/Graphs）网站上有关图形的章节。
　　本书内容
　　第1章会讲解统计模型的通用语言和在对这些模型进行分类时所依据的一些重要差别，由此开启我们的学习之旅。本章的亮点是对预测建模过程的探索，我们会通过它展示第一个模型，即k近邻（k Nearest Neighbor，kNN）模型。
　　第2章会介绍预测数量值最简单且最著名的方法。本章的重点是理解线性回归的假设，以及一些可以用来评估训练模型质量的诊断工具。此外，本章还会涉及正则化的重要概念，它可以用于避免预测模型常见的一种瑕疵—过拟合（over fitting）。
　　第3章会对前一章里线性模型的思想进行扩展，方法是引入广义线性模型的概念。虽然这类模型有很多示例，但本章的重点是逻辑回归这样一个针对分类问题的流行方法。我们还会探讨该模型扩展到针对多类别的情况，发现该方法对于二元分类（binary classification）的效果最好。
　　第4章会讲解能够处理回归及分类两种任务的一种仿生模型。神经网络有很多种，而本章会重点关注多层感知网络（multilayer perceptron network）。神经网络是复杂的模型，本章的主要关注点是理解在训练过程中起作用的一组不同的配置和优化参数。
　　第5章会通过学习支持向量机来掌握非线性模型的问题。在这部分，我们会通过利用最大边缘分离（maximum margin separation）来尝试以几何方式拟合我们的训练数据，以探索对分类问题进行思考的另一种方法。本章还会介绍交叉验证（cross-validation）这一评估和优化模型的基本技术。
　　第6章讲解决策树（decision tree）这样另一类已经成功运用于回归和分类等问题的模型。决策树的类型有很多种，本章会介绍一批不同的训练算法，例如CART和C5.0。我们还可以看到，树形方法具有独特的优点，例如内建的特征选择、支持缺失数据和类别变量，以及非常易于解释的输出。
　　第7章不同于以往章节，本章会采用一种迂回方式，不会讲解新类型的模型，而是尝试解答如何把不同模型有效地结合起来的问题。我们会讲解装袋（bagging）和增强（boosting）这两种著名的技术，并会把随机森林（random forest）作为树的装袋的一种特例进行介绍。