并行计算是一种计算方式，它利用多个计算资源同时解决计算问题，其目的是加快计算速度和提高处理数据的能力。在并行计算中，主要可以分为共享内存和分布式内存两种模型。共享内存模型中，多个处理器可以直接访问共享的内存空间；而分布式内存模型中，每个处理器拥有自己的局部内存空间，处理器间通过消息传递进行通信和数据交换。本文档所介绍的书籍《并行计算导论》则是针对分布式并行计算环境和消息传递并行编程的入门教材。 该书特别强调了MPI（Message Passing Interface）和OpenMP两种编程模型。MPI是一种消息传递标准，用于开发基于消息传递的并行应用程序。OpenMP是一种提供共享内存多处理器编程的API，它使用编译器指令、库函数和环境变量来实现多线程并行编程。 《并行计算导论》的编著者张林波等人来自中国科学院数学与系统科学研究院、计算机网络信息中心、应用物理与计算数学研究所和北京大学数学学院，该书由清华大学出版社在2006年出版，作为高等院校信息与计算科学专业系列教材之一。 书籍内容分为三部分九章，以及两个附录。第1部分涉及并行计算的基础知识，包括并行计算机的发展历史、并行计算机体系结构、并行计算与算法设计的基本概念。第2部分则侧重于Linux/UNIX操作系统下的并行计算平台构建以及MPI消息传递并行编程的基础。第3部分，也就是两个附录，分别介绍高性能计算工具和平台，以及提供了较为完整的MPI函数和变量参考手册。 书中还提供了典型科学计算问题的并行算法与程序设计实例，这能够帮助读者更直观地理解并行计算的理论知识，并将其应用到实际问题中去。这些实例包括自适应数值积分算法、矩阵计算、快速傅里叶变换（FFT）、Poisson方程的点Jacobi迭代算法和热传导方程的ADI格式等。 作者们希望通过本书能够加强和规范普通高校的并行计算课程，并在科学研究与工程应用领域普及并行计算技术，推进高性能计算技术的应用。书中还特意设计了习题部分，既有巩固章节知识的题目，也有对正文内容的拓展题目，以帮助读者加深理解。 从教材的布局来看，本书是从简单易懂的概念入手，逐步引导读者深入到并行计算的复杂世界。它不要求读者具有大量的预备知识，而是希望通过逐步的学习和实践，让读者学会利用并行计算解决实际问题。 《并行计算导论》的特点还在于强调实用性，注重让读者能够学到具体有用的知识和技术，并且强调实践性，鼓励读者在学习的同时进行动手操作，认真分析和重复书中的范例代码，从而达到理论与实践相结合的目的。

本书是并行计算，特别是分布式并行计算环境和消息传递并行编程的入门教材，目的是促进并行计算技术在我国的应用。书中介绍了并行计算的基础知识Linux/UNIX的基本使用、基于Linux机群的并行计算平台的 建立、并行算法的设计和MPI消息传递并行编程的基本概念与方法。 书中还提供了一批典型科学计算问题的并行算法与程序设计实例，介绍了一些当前国际上流行的科学计算软件工具及平台。本书力求从简单入间接税，循序渐进，读者在逐步学习使用的过程中不会利用并行计算解决自己学习和工作的问题。

并行计算的经典书籍。有几个链接下载下来后发现打开后都无法显示，索性自己找一个供大家使用。

并行计算，特别是分布式并行计算环境和消息传递并行编程的入门教材。另含LINUX系统的配置和介绍，还有集群计算的架构和机群架设的实验教材。

并行计算导论中文版，pdf格式，非扫描版

本书是并行计算,特别是分布式并行计算环境和消息传递并行编程的入门教材,目的是促进并行计算技术在我国的应用。书中介绍了并行计算的基础知识、Linux/UNIX 的基本使用、基于 Linux 机 群的并行计算平台的建立、并行算法的设计和 MPI 消息传递并行编程的基本概念与方法。

并行计算导论，并行计算导论，并行计算导论，并行计算导论，并行计算导论

本书系统介绍涉及并行计算的体系结构、编程范例、算法与应用和标准等。覆盖了并行计算领域的传统问题，并且尽可能地采用与底层平台无关的体系结构和针对抽象模型来设计算法。书中选择MPI(Message Passing Interface)、POSIX线程和OpenMP这三个应用最广泛的编写可移植并行程序的标准作为编程模型，并在不同例子中反映了并行计算的不断变化的应用组合。本书结构合理，可读性强，加之每章精心设计的习题集，更加适合教学。 本书论述清晰，示例生动，并附有大量习题，适合作为高等院校计算机及相关专业本科生和研究生的教材或参考书。原版自1993年出版第1版到2003年出版第2版以来，已在世界范围内被广泛地采用为高等院校本科生和研究生的教材或参考书。 第1章 并行计算介绍 1.1 推动并行化 1.1.1 计算能力因素——从晶体管到浮点运算速度 1.1.2 内存及磁盘速度的因素 1.1.3 数据通信因素 1.2 并行计算适用范围 1.2.1 在工程及设计中的应用 1.2.2 科学计算中的应用 1.2.3 商业应用 1.2.4 计算机系统中的应用 1.3 本书的组织及内容 1.4 书目评注 习题 第2章 并行编程平台 2.1 隐式并行：微处理器体系结构的发展趋势 2.1.1 流水线与超标量执行 2.1.2 超长指令字处理器 2.2 内存系统性能的局限 2.2.1 使用高速缓存改善有效内存延迟 2.2.2 内存带宽的影响 2.2.3 躲避内存延迟的其他方法 2.2.4 多线程与预取间的权衡 2.3 并行计算平台剖析 2.3.1 并行平台的控制结构 2.3.2 并行平台的通信模型 2.4 并行平台的物理组织 2.4.1 理想并行计算机的体系结构 2.4.2 并行计算机互连网络 2.4.3 网络拓扑结构 2.4.4 静态互连网络评价 2.4.5 动态互连网络评价 2.4.6 多处理器系统中的高速缓存一致性 2.5 并行计算机的通信成本 2.5.1 并行计算机的消息传递成本 2.5.2 共享地址空间计算机的通信成本 2.6 互连网络的路由选择机制 2.7 进程-处理器映射的影响和映射技术 2.7.1 图的映射技术 2.7.2 成本-性能平衡 2.8 书目评注 习题 第3章 并行算法设计原则 3.1 预备知识 3.1.1 分解、任务与依赖图 3.1.2 粒度、并发性与任务交互 3.1.3 进程和映射 3.1.4 进程与处理器 3.2 分解技术 3.2.1 递归分解 3.2.2 数据分解 3.2.3 探测性分解 3.2.4 推测性分解 3.2.5 混合分解 3.3 任务和交互的特点 3.3.1 任务特性 3.3.2 任务间交互的特征 3.4 负载平衡的映射技术 3.4.1 静态映射方案 3.4.2 动态映射方案 3.5 包含交互开销的方法 3.5.1 最大化数据本地性 3.5.2 最小化争用与热点 3.5.3 使计算与交互重叠 3.5.4 复制数据或计算 3.5.5 使用最优聚合交互操作 3.5.6 一些交互与另一些交互的重叠 3.6 并行算法模型 3.6.1 数据并行模型 3.6.2 任务图模型 3.6.3 工作池模型 3.6.4 主-从模型 3.6.5 流水线模型或生产者-消费者模型 3.6.6 混合模型 3.7 书目评注 习题 第4章 基本通信操作 4.1 一对多广播以及多对一归约 4.1.1 环或线性阵列 4.1.2 格网 4.1.3 超立方体 4.1.4 平衡二叉树 4.1.5 算法细节 4.1.6 成本分析 4.2 多对多广播和归约 4.2.1 线性阵列和环 4.2.2 格网 4.2.3 超立方体 4.2.4 成本分析 4.3 全归约与前缀和操作 4.4 散发和收集 4.5 多对多私自通信 4.5.1 环 4.5.2 格网 4.5.3 超立方体 4.6 循环移位 4.6.1 格网 4.6.2 超立方体 4.7 提高某些通信操作的速度 4.7.1 消息分裂和路由选择 4.7.2 全端口通信 4.8 小结 4.9 书目评注 习题 第5章 并行程序的解析建模 5.1 并行程序中的开销来源 5.2 并行系统的性能度量 5.2.1 执行时间 5.2.2 总并行开销 5.2.3 加速比 5.2.4 效率 5.2.5 成本 5.3 粒度对性能的影响 5.4 并行系统的可扩展性 5.4.1

这是一本很不错的教材，是学习并行计算的各位朋友的首选，希望能对大家有帮助

This instructors guide to accompany the text ”Introduction to Parallel Computing” contains solutions to selected problems. For some problems the solution has been sketched, and the details have been left out. When solutions to problems are available directly in publications, references have been provided. Where necessary, the solutions are supplemented by figures. Figure and equation numbers are represented in roman numerals to differentiate them from the figures and equations in the text.