1. 线程使用场景
(1)流水线方式。根据业务特点，将一个流程的处理分割成多个线程，形成流水线的处理方式。产生的结果:延长单一流程的处理时间，提高系统整体的吞吐能力。
(2)线程池方式。针对处理时间比较长且没有内蕴状态的线程，使用线程池方式分流消息，加快对线程消息的处理，避免其成为系统瓶颈。
线程使用的关键是线程消息队列、线程锁、智能指针的使用。其中以线程消息队列最为重要。
2. 线程消息队列描述
所谓线程消息队列，就是一个普通的循环队列加上“多生产者－单（多）消费者的存/取操作”。流水线方式中的线程是单消费者，线程池方式中的线程是多消费者。
为了后文更好的描述问题，作如下说明：
(1)假定循环队列queue中, 入队操作put_queue, 出队操作get_queue。
(2)生产者消费者：生产者线程生产消息，放在一个空缓冲区中，供消费者线程消费，生产者生产消息(put_queue)，如果缓冲区满，则被阻塞，消费者消费消息(get_queue)，如果缓冲区空，则被阻塞。线程消息队列就是生产者消费者问题中的缓冲区，而它的生产者是不限定的，任何线程都可以作为生产者向其中进行put_queue操作，消费线程则可能是一个，也可能是多个。因此对循环队列的任何操作都要加锁，以保证线程安全。
3. 线程相关的操作
(1)pthread_t类型的创建、属性创建设置等。
这类具体可以: man pthread_creat; man pthread_attr_init; man pthread_detach; man pthread_join等查看
(2)pthread_mutex_t类型的操作。
这类具体可以: man pthread_mutex_init可以看到所有相关的操作。
(3)pthread_cond_t类型的操作。man pthread_cond_init。pthread_cond_t的wait和signal操作一定要和pthread_mutex_t的lock、unlock配合使用。类似于此：
4. linux的线程库
2.6之后的内核的默认使用的是redhat公司的NPTL（原生posix线程库），以前内核使用的是LinuxThreads库，两者的简单介绍可以看http://www.ibm.com/developerworks/cn/linux/l-threading.html。不过对于应用者，分析两者的区别和优劣也没什么大意义。这里特别提下NPTL的futex机制。借助该机制，pthread_mutex的性能大大提高，只要不进入竞争态，进程就不会陷入内核态。这点可以自己写示例程序，通过strace -c 跟踪进程的系统调用，另外还可以证实总是进入内核态的操作有pthread_cond_signal和sem_post。
5. 通过上面的分析，我们可以有如下结论：
(1)减少pthread_cond_signal和sem_post的调用，只在有必要的时候调用；
(2)尽量避免pthread_mutex进入竞争态。增大消息队列的大小，可以有效减少竞态条件的出现。
6. 实用的线程消息队列实现(msg_queue.h)
#include <stdio.h>
#include <unistd.h>
#include <stdlib.h>
#include <pthread.h>
pthread_mutex_t mux;
pthread_cond_t cond_get, cond_put;
struct msg_queue {
void** buffer; // 缓冲数据, .buffer = msg
int size; // 队列大小，使用的时候给出稍大的size，可以减少进入内核态的操作
int lget; // 取队列数据的偏移量
int lput; // 放队列数据的偏移量
int nData; // 队列中数据的个数,用来判断队列满/空
int nFullThread; // 由于队列满而阻塞在put_queue的线程个数
int nEmptyThread; // 由于队列空而阻塞在get_queue的线程个数
};
void* get_queue(struct msg_queue *q){
void* data = NULL;
pthread_mutex_lock(&mux);
while(q->lget == q->lput && 0 == q->nData){
// 此处循环判断的原因是：假设2个消费者线程在get_queue阻塞，然后两者都被激活，
// 而其中一个线程运行比较块，快速消耗了2个数据，另一个线程醒来的时候已
// 经没有新数据可以消耗了。这种情况是有可能的：比如，其它生产者线程快速
// 调用put_queue两次，如果有2个线程在get_queue处阻塞，就会被同时激活，
// 而完全有可能，其中一个被激活的线程获取到了cpu，快速处理了2个消息。
// 对于循环队列，如果lget与lput相等，那么只有两种情况，
// 1：nData不为0，队列满
// 2：nData为0，队列空
q->nEmptyThread++;
pthread_cond_wait(&cond_get, &mux);
q->nEmptyThread--;
}
#ifdef DEBUG
printf("get data! lget:%d", q->lget);
#endif
data = (q->buffer)[q->lget++];
if(q->lget == q->size){
// queue用作循环队列
q->lget = 0;
}
q->nData--;
#ifdef DEBUG
printf(" nData:%d\n", q->nData);
#endif
if(q->nFullThread){
// 仅在必要时才调用pthread_cond_signal, 尽量少陷入内核态
pthread_cond_signal(&cond_put);
}
pthread_mutex_unlock(&mux);
return data;
}
void put_queue(struct msg_queue *q, void* data){
pthread_mutex_lock(&mux);
while(q->lget == q->lput && q->nData){
q->nFullThread++;
pthread_cond_wait(&cond_put, &mux);
q->nFullThread--;
}
#ifdef DEBUG
printf("put data! lput:%d", q->lput);
#endif
(q->buffer)[q->lput++] = data;
if(q->lput == q->size){
q->lput = 0;
}
q->nData++;
#ifdef DEBUG
printf(" nData:%d\n", q->nData);
#endif
if(q->nEmptyThread){
pthread_cond_signal(&cond_get);
}
pthread_mutex_unlock(&mux);
}
7. demo程序(msg_queue.c)
#include "msg_queue.h"
struct msg_queue queue = {NULL, 10, 0, 0, 0, 0, 0};
void * produce(void * arg)
{
pthread_detach(pthread_self());
int i=0;
while(1){
put_queue(&queue, (void*)i++);
}
}
void *consume(void *arg)
{
int data;
while(1){
data = (int)(get_queue(&queue));
}
}
int main()
{
pthread_t pid;
int i=0;
pthread_mutex_init(&mux, 0);
pthread_cond_init(&cond_get, 0);
pthread_cond_init(&cond_put, 0);
queue.buffer = malloc(queue.size * sizeof(void*));
if(queue.buffer == NULL){
printf("malloc failed!\n");
exit(-1);
}
pthread_create(&pid, 0, produce, 0);
pthread_create(&pid, 0, produce, 0);
pthread_create(&pid, 0, produce, 0);
pthread_create(&pid, 0, consume, 0);
pthread_create(&pid, 0, consume, 0);
pthread_create(&pid, 0, consume, 0);
sleep(60);
free(queue.buffer);
pthread_mutex_destroy(&mux);
pthread_cond_destroy(&cond_get);
pthread_cond_destroy(&cond_put);
}
Reference: http://www.cppblog.com/CppExplore/archive/2008/01/15/41175.html