并行计算导论.pdf

并行计算是一种计算方式，它利用多个计算资源同时解决计算问题，其目的是加快计算速度和提高处理数据的能力。在并行计算中，主要可以分为共享内存和分布式内存两种模型。共享内存模型中，多个处理器可以直接访问共享的内存空间；而分布式内存模型中，每个处理器拥有自己的局部内存空间，处理器间通过消息传递进行通信和数据交换。本文档所介绍的书籍《并行计算导论》则是针对分布式并行计算环境和消息传递并行编程的入门教材。 该书特别强调了MPI（Message Passing Interface）和OpenMP两种编程模型。MPI是一种消息传递标准，用于开发基于消息传递的并行应用程序。OpenMP是一种提供共享内存多处理器编程的API，它使用编译器指令、库函数和环境变量来实现多线程并行编程。 《并行计算导论》的编著者张林波等人来自中国科学院数学与系统科学研究院、计算机网络信息中心、应用物理与计算数学研究所和北京大学数学学院，该书由清华大学出版社在2006年出版，作为高等院校信息与计算科学专业系列教材之一。 书籍内容分为三部分九章，以及两个附录。第1部分涉及并行计算的基础知识，包括并行计算机的发展历史、并行计算机体系结构、并行计算与算法设计的基本概念。第2部分则侧重于Linux/UNIX操作系统下的并行计算平台构建以及MPI消息传递并行编程的基础。第3部分，也就是两个附录，分别介绍高性能计算工具和平台，以及提供了较为完整的MPI函数和变量参考手册。 书中还提供了典型科学计算问题的并行算法与程序设计实例，这能够帮助读者更直观地理解并行计算的理论知识，并将其应用到实际问题中去。这些实例包括自适应数值积分算法、矩阵计算、快速傅里叶变换（FFT）、Poisson方程的点Jacobi迭代算法和热传导方程的ADI格式等。 作者们希望通过本书能够加强和规范普通高校的并行计算课程，并在科学研究与工程应用领域普及并行计算技术，推进高性能计算技术的应用。书中还特意设计了习题部分，既有巩固章节知识的题目，也有对正文内容的拓展题目，以帮助读者加深理解。 从教材的布局来看，本书是从简单易懂的概念入手，逐步引导读者深入到并行计算的复杂世界。它不要求读者具有大量的预备知识，而是希望通过逐步的学习和实践，让读者学会利用并行计算解决实际问题。 《并行计算导论》的特点还在于强调实用性，注重让读者能够学到具体有用的知识和技术，并且强调实践性，鼓励读者在学习的同时进行动手操作，认真分析和重复书中的范例代码，从而达到理论与实践相结合的目的。