并行编程模式

1、map模式

对每个数据施加同样的运算，从这个表述来说，它表现出了数据并行的特征。

算法的粒度：

某些应用在一种粒度上看是map模式，而另一种粒度上看 不是map模式。

2、reduce模式：

从多个输入中产生一个输出 ，在不考虑误差的前提下，输出与输入的多个数据无关。

3、scan模式：

也就前缀和，一般来说不用于串行算法中，

串行算法的实现 ：

由于第i个结果是i-1个结果加上输入第i个数据的和，因此就可以使用一个临时变量来保存累加和的结果 。

并行算法的实现 ：

每个核心计算一个或多个数据块；对每个数据块的结果做串行scan,如计算量不大，串行处理；

每个核心计算一个或多个数据块的scan,这可做多线程处理

如何并行化遗留代码：

一般 来说有两种方法：部分并行与整体并行

1、找出软件计算热点 （常用工具gprof valgrind.......）

2、判断是否可并行化