基本信息
- 原书名:Mastering Parallel Programming with R

内容简介
计算机书籍
本书是一本构建大规模高效算法的综合实用指南。书中介绍了并行计算的方方面面,不仅涵盖从单程序多数据(SPMD)到单指令多数据(SIMD)向量处理,包括应用R添加包parallel来利用R内置的多核功能、用消息传递接口(MPI)进行消息传递、用OpenCL处理基于通用GPU(GPGPU)的并行性,还探讨了并行性的不同框架方法,从利用任务分配的负载平衡到网格空间处理。此外,还通过Hadoop详细介绍云计算中更通用的批量数据处理,以及集群计算中的热门新技术Apache Spark。
全书共6章,第1章简单介绍如何利用R的并行版本lapply()来开发笔记本电脑的多核处理功能。第2章涵盖标准的消息传递接口(MPI),它是实现高级并行算法的关键技术。第3章通过开发一个详实的Rmpi工作示例来完成MPI过程,说明如何使用非阻塞通信和局部信息交换模式,这是实现空间网格并行所必需的。第4章介绍在真实超级计算机上运行并行代码的经验。第5章说明如何通过ROpenCL添加包直接应用笔记本电脑的图形处理单元(GPU)的大规模并行和向量处理能力。第6章介绍并行编程及其性能的科学原理,通过强调想要避免的潜在陷阱来讲述最好的实践艺术,并初步展望并行计算系统的未来。
作译者
Simon是Datalytics科技有限公司的首席技术官和管理合伙人,带领一个团队建设下一代大规模数据分析平台,该平台建立在一组由高性能工具、框架和系统所构成的可定制的工具集合基础上,可以使从数据采集、分析到呈现的整个实时处理周期,轻松地部署到任何已有的IT操作环境中。
此前,他在Aridhia信息公司担任产品创新总监,为苏格兰的医疗服务供应商建立了多个新系统,包括为苏格兰18周转诊治疗和癌症患者的管理而提供的一体化病人路径跟踪系统,该系统应用了10个单独数据系统的集成(减少病人等待时间,从而提供最好的服务)。他还利用公共云托管监测系统,为实时化疗患者建立了专门的移动系统,该系统在澳大利亚进行了临床试验,受到护士和病人的高度赞扬,“就像在你的起居室里有一位护士……希望所有的化疗病人每天都有天使般的安全舒适的护理环境。”
Simon也是ROpenCL开源软件包的作者之一,该添加包使得用R编写的统计程序可以应用图形加速器芯片中的并行计算能力。
对于SPRINT这一章,我特别要感谢爱丁堡并行计算中心的同事以及本书审阅者Willem Ligtenberg、Joe McKavanagh和Steven Sanderson,谢谢他们的积极反馈。我还要感谢Packt出版社的编辑团队为本书的最终出版付出的辛勤劳动。感谢我的妻子和儿子的理解,他们给我珍贵的时间使我成为一名作者,谨以此书献给我爱的Heather和Adam。
伊丽·特鲁普(Eilidh Troup)是爱丁堡大学EPCC的应用顾问。她拥有Glasgow大学的遗传学学位,现在专注于为广大用户尤其是生物学家提供高性能计算。Eilidh致力于各种软件项目,包括为基于网络的科学数据存储库提供简单的并行R接口(SPRINT)和SEEK。
托斯顿·福斯特(Thorsten Forster)是爱丁堡大学的数据科学研究员。他具有统计学和计算机科学背景,并获得了生物医学科学博士学位,在这些交叉学科研究方面拥有超过10年的经验。
Thorsten利用统计学和机器学习(如微阵列和下一代测序)研究生物医学的大数据分析方法,他曾经是SPRINT项目的项目经理,该项目的目标是允许潜在用户使用R统计编程语言对大型生物数据集应用并行分析解决方案。他还是Fios Genomics公司的联合创始人,该公司是一家大学孵化的提供生物医学大数据研究的数据分析服务公司。
目前,Thorsten的工作是设计用于诊断新生儿细菌感染的基因转移分类器、分析巨噬细胞干扰素激活的转移谱、调查胆固醇对感染免疫的作用,以及研究导致儿童气喘的基因因素。
Thorsten的完整资料可以在http://tinyurl.com/ThorstenForsterUEDIN上获得。
特伦斯·斯隆(Terence Sloan)是爱丁堡大学高性能计算中心EPCC的软件开发小组经理。他在苏格兰中小企业、英国公司以及欧洲和全球合作方面拥有超过25年的管理和参与数据科学和高性能计算项目的经验。
Terry获得过Wellcome Trust(基金号086696/Z/08/Z)、BBSRC(基金号BB/J019283/1)研究基金,以及帮助开发R语言SPRINT添加包的3个EPSRC分布式计算科学基金。他在使用行为大数据进行客户行为分析方面获得过ESRC奖(获奖号RES-189-25-0066、RES-149-25-0005)。
Terry是爱丁堡大学HPC数据科学硕士项目的HPC数据分析、项目准备和论文课程的责任人。
我要感谢Alan Simpson博士,他是EPCC的技术总监、ARCHER超级计算机的计算科学和工程总监,感谢他支持SPRINT的开发及其在英国国家超级计算机上的应用。
目录
前言
关于作者
第1章 简单的R并行性1
1.1 亚里士多德数谜2
1.1.1 求解程序的实现2
1.1.2 改进求解程序6
1.1.3 将问题分解为多个任务10
1.2 R的并行包14
1.2.1 使用mclapply()15
1.2.2 使用parLapply()19
1.2.3 并行负载均衡21
1.3 segue包23
1.3.1 安装segue24
1.3.2 设置AWS账户25
1.3.3 运行segue27
1.3.4 求解亚里士多德数谜32
1.4 总结34
第2章 消息传递入门36
2.1 为MPI设置系统环境36
译者序
本书的翻译得到了国家自然科学基金(项目编号71461005)和广西高校数据分析与计算重点实验室的资助。特别感谢桂林电子科技大学研究生姚家进、郭梦菲、秦文哲在翻译本书中所做的出色工作。
由于时间和水平所限,难免会有不当之处,希望同行和读者多加指正和批评。
前言
尽管使用的时间不长,但R作为一种开源统计编程语言,逐渐成为人们分析数据的关键基础技术之一。我敢说R现在是“数据科学家”的主流编程语言之一。
当然,数据科学家可能会部署许多其他工具来处理大数据的一些困难问题,如Python、SAS、SPSS或MATLAB。然而,自从1997年以来,随着开源语言的深入发展,R语言非常流行,在20年中开发了许多存放于CRAN镜像站点的R添加包,这些添加包适用于几乎所有形式的数据分析,从小型数值矩阵到庞大的符号数据集,如生物分子DNA。事实上,我认为R语言正成为“事实上”的数据科学脚本语言,它可以融合许多不同类型的高度复杂数据的分析方法。
R语言自身总是按照单线程来实现的,而且其原有的程序设计并没有应用并行机制。然而,为了达到某些功能的并行目的以及使用并行处理框架,R语言需要借助于某些特别开发的外部添加包。我们将重点关注一些目前技术范围内可用的最好的并行算法。
在本书中,我们将介绍并行计算的各个方面,从单程序多数据(SPMD)到单指令多数据(SIMD)向量处理,包括用R添加包parallel来利用R内置的多核功能、用消息传递接口(MPI)进行消息传递、用OpenCL处理通用GPU(GPGPU)的并行性。我们还将探讨并行性的不同框架方法,从利用任务分配的负载均衡到网格空间处理。我们将通过Hadoop了解云计算中更通用的批量数据处理,以及集群计算中的热门新技术Apache Spark,它更适合大规模的实时数据处理。
我们甚至会探索如何使用真正的数百万英镑的超级计算机。是的,我知道你可能没有这样的计算机,但是在本书中,我们会告诉你如何使用它,以及并行计算的效果。说不定,随着知识的更新,你可以来到当地的超级计算机中心,并说服他们让你进行一些大规模的并行计算!
本书中展示的所有编码示例都具有原创性,选择这些示例的原因是为了不复制其他书中可能遇到的例子。亲爱的读者,选择这些代码的原因是希望能让你与普通读者有一点不同。作为作者,我们非常希望你享受这个过程。
本书内容
第1章快速地展示如何利用R的并行版本lapply()来开发笔记本电脑的多核处理功能。我们也通过亚马逊网络服务简要介绍云计算的巨大运行能力。
第2章涵盖标准的消息传递接口(MPI),它是实现高级并行算法的关键技术。在本章中,你将学习如何使用两个不同的R MPI添加包Rmpi和pbdMPI以及底层通信子系统的OpenMPI实现。
第3章通过开发一个详细的Rmpi工作示例完成MPI过程,说明如何使用非阻塞通信和局部进程间消息交换模式,这是实现空间网格并行所必需的。
第4章介绍在真实的超级计算机上运行并行代码的经验。本章还详细介绍开发SPRINT的过程,即一个用C语言编写的可以在笔记本电脑以及超级计算机上运行的并行计算的R包。此外,还说明如何使用自己本地编码的高性能并行算法扩展此添加包,并使其可访问R。
第5章展示如何通过ROpenCL添加包直接应用笔记本电脑的图形处理单元(GPU)的大规模并行和向量处理能力,该添加包是开放式计算语言OpenCL的一个R包装。
第6章介绍并行编程及其性能的科学原理,通过强调想要避免的潜在陷阱来讲述最好的实践艺术,并初步展望了并行计算系统的未来。
在线章节“Apache Spa-R-k”介绍了Apache Spark,现在它成为继Hadoop之后最流行的分布式存储大数据的并行计算环境。你将学习如何设置和安装Spark集群,以及如何直接从R中利用Spark自己的数据框提取。
这一章可以在Packt出版社的主页上下载:https://www.packtpub.com/sites/default/files/downloads/B03974_BonusChapter.pdf。
不需要从头到尾依次阅读本书,大多数情况下,每一章节都是可以独立阅读的。
阅读准备
要运行本书中的代码,你需要一个最新配置的多核笔记本电脑或台式计算机。你还需要一个合适带宽的网络连接,用于从CRAN(R包的主要在线存储库)下载R和各种R代码库。
本书中的例子主要使用RStudio 0.98. 1062、64位R 3.1.0(CRAN发行版)开发,运行于2014年发行的Apple MacBook Pro OS X 10.9.4(具有2.6 GHz Intel Core i5处理器和16 GB内存)。当然,所有这些例子也应该适用最新版本的R。