多线程编程

TODO

http://blog.chinaunix.net/uid-26729065-id-3082025.html

http://www.cnblogs.com/CareySon/archive/2012/04/14/Process-SynAndmutex.html

多线程编程设计模式

via: http://www.resetoter.cn/?p=155

1、Immutable Object模式(不可变对象)

通过将对象变为只读的形式来保证线程安全,是比较好的无锁实现。

无非就是将所有可以变的变量的setter全部对访问者关闭,并且防止有可修改引用泄露出去。

2、Guarded Suspension模式(保护性暂挂)

有时候一些线程在执行的时候需要满足一些条件,倘若没有满足的话便无法执行下去,这个时候我们通过暂挂(跑一跑空循环之类的)来让线程暂时挂起,等待条件满足的时候再继续执行。

在后面的Promise模式中,比如在多线程中写得很多的Future就经常会用到,结果还没算出来,那就不好意思,请等一会儿再执行咯。

3、Two-phase Termination模式(两阶段终止)

在终止线程的时候我们或许会丢掉很多东西,比如一些状态,或者还有一些必要执行的东西还未执行完。倘若直接中断线程的话会引起很多问题,所以在终止线程之前我们或许需要等待这些操作。

例如在Java的标准库中,线程池就会等待目前仍在执行的线程,执行完全之后就会完全关闭线程池。后面的Thread Pool模式中也会用到。

4、Promise模式(承诺)

Promise模式帮我们不需要等待耗时的求值操作,而是拿一个凭证。我们可以先去做些别的,最后再回来取值。在Java中的Future就是用的这个思想。

5、Producer-Consumer模式(生产者-消费者)

在多线程编程中经常有一个生成数据以及一个消费数据的两个模块,这两者的速率通常是不相等的,所以为了避免等待,该模式中引入了通道的概念。

生产者将产生的数据放入一个队列,消费者则从队列中拿数据。并且生产者与消费者是完全解耦的。

改进版本中也有用多个通道进行消费,减少锁竞争,再者也可以用工作窃取的方式进行负载均衡。

6、Active Object模式(主动对象)

该模式将方法的调用与执行解耦。使用者通过同步的方式调用,而后台以异步的方式执行。调用与执行分开在不同线程以提高并发性,当然也可以用到Promise模式来得到结果。

7、Thread Pool模式(线程池)

这个模式就是为减少开启与关闭线程带来的开销。但是在使用的时候还是有很多需要注意的地方,例如死锁、线程泄漏之类的问题,导致可用线程越来越少。

Java中直接用各种Executer,已经是很好的线程池了,也没有必要自己再实现一个。

8、Thread Specific Storage模式(线程特有存储)

通过每个线程独立储存数据来避免竞争。也是一种很好的无锁线程安全实现方式,但是要注意内存泄漏,当线程销毁之后,保证数据也能够被及时销毁。

在Java当中直接使用ThreadLocal来应用该模式。

9、Serial Thread Confinement模式(串行线程封闭模式)

并发任务涉及到非线程安全对象时我们有时候又不希望使用锁,那我们就可以使用该模式。

由于每次只有一个线程去访问该非安全对象,所以无需担心线程不安全。

其本质是将锁替代为开销更小的锁。(其实可以看做行为队列)

10、Master-Slave模式(主仆)

将任务拆解为更小的任务,小任务或许还能拆解成更小的任务,然后这些任务交给不同的工作线程进行执行。

最后将这些任务进行合并,以达成完成所有任务的目的。在工作线程中我们需要通过负载均衡以及工作窃取来达成最高效率。

当然该模式也可以用来做可靠性设计,子任务中只取一个正确完成的结果,只需要确保所有子任务中有一个任务完成就可以了。

在停止任务的时候我们也需要用到两阶段停止的思想,将子任务执行完之后自动停止。

11、Pipeline模式(流水线)

在执行任务的时候,我们通常可以将任务分解成不同的阶段,在一些阶段当中或许只有一个线程参与,而在另一些阶段中则有多个线程进行参与。

我们可以通过配置文件的方式来配置我们的自定义流水线。

需要注意的是,流水线由于独立出很多资源,所以一定会有额外的开销,所以要注意管线的深度,保证不要得不偿失。

在始终只有一个线程参与的情况下,也可以将Pipeline看做是Serial Thread Confinement模式。

12、Half-sync/Half-async模式(半同步/半异步)

在多线程编程当中我们会发现,同步模式易于理解,而异步模式对IO更加高效。

所以引入这一模式,将模块分成三层,同步层、中间层、异步层,同步层进行一些同步编写,而异步层则进行IO操作,操作完成后将数据放入中间层,而同步层从中间层取得数据。

需要注意同步层的高级任务,例如数据库、网络任务执行过慢的时候考虑使用非阻塞IO。