基于C++11线程池

  • 1.包装线程对象
class task : public std::tr1::enable_shared_from_this<task>
{
public:
	task():exit_(false){}
	task( const task & ) = delete;
	~task(){}
	task & operator =( const task &) = delete;

	void start();
	void stop()
	{
		exit_ = true;
		sync_.notify_one();
	}
	void set_job( const std::function<void()> & job, const std::string & file, int line)
	{//提交任务
		{
			std::unique_lock<std::mutex> lock(mutex_);
			job_ = job;
			file_ = file;
			line_ = line;
		}
		sync_.notify_one();//通知主线程有任务要运行....
	}
	void print_job(){
		LOG(INFO)<<"sumbit from:"<<file_<<":"<<line_;
	}
private:

	bool exit_;
	std::mutex mutex_;
	std::condition_variable sync_;
	std::function< void()> job_;          //线程运行的任务,线程随意时刻,最多仅仅能运行一个任务。
	std::thread::id       id_;
	std::string		     file_;
	int                   line_;

};
void task::start()
{
	auto job_proxy = [this] (){

		id_ = std::this_thread::get_id();

		while( !exit_ )
		{

			std::unique_lock<std::mutex> lock(mutex_);

			if( job_ )
			{//有任务了,须要运行任务了
				try
				{
					job_(); //运行任务的代码
				}catch( std::exception & e)
				{

				}catch(...)
				{

				}
				job_ = std::function<void()>(); //释放任务绑定的资源,主要为闭包捕获的资源,特别是shared_ptr对象.
				tasks->job_completed( shared_from_this() ); //任务运行完毕,通知线程池
			}else{
			       //没有任务的时候,等待其它线程提交任务。。
				sync_.wait(lock);

			}
		}
	};

	std::thread t(job_proxy); //创建并启动与task管理的线程
	t.detach();               //分离模式,thread对象销毁了。可是其创建的线程还活着。。。
}



  • 2.线程池管理对象
class task_pool
{
public:
	task_pool(unsigned int pool_size = 128):max_size_(pool_size),stop_all_(true)
	{

	}
	~task_pool()
	{
	}
	void job_completed( const std::tr1::shared_ptr<task> & t)//回收task对象
	{

		std::lock_guard<std::mutex> lock(mutex_);
		bool need_to_notify = idle_tasks_.empty() && (!wait_for_running_jobs_.empty());
		busying_tasks_.erase(t);
		idle_tasks_.push_back(t);
		LOG(INFO)<<"after job_completed, current idle tasks size:"<< idle_tasks_.size()
			<<" busying tasks size:"<<busying_tasks_.size()
			<<" wait for running jobs size:"<<wait_for_running_jobs_.size();
		if( !busying_tasks_.empty() ){
			(*busying_tasks_.begin())->print_job();
		}
		if( need_to_notify )//任务太多了。之前空暇线程使用完了。有任务在等待运行,须要通知
		{
			sync_.notify_one();
		}
	};
	//提交任务
	void submit_job( const std::function<void()> & job, const std::string file, int line)
	{
		if( stop_all_ )
		{
			return;
		}
		std::lock_guard<std::mutex> lock(mutex_);
		bool need_notify = wait_for_running_jobs_.empty();
		wait_for_running_jobs_.push(std::make_tuple(job,file,line));

		if( need_notify )//等待运行的任务为空时。须要通知,其它情况不须要通知.
		{
			sync_.notify_one();
		}

	}
	void execute_job()
	{

		while(true)
		{
			std::unique_lock<std::mutex> lock(mutex_);
			while(!stop_all_ && wait_for_running_jobs_.empty() )
			{
				//等待其它线程提交任务
				sync_.wait(lock);
			}

			if( stop_all_ )
			{
				return;
			}
			while(!stop_all_ && idle_tasks_.empty())
			{
				//有任务要运行,可是没有空暇线程,等待其它任务运行完毕。

sync_.wait(lock);
			}
			if( stop_all_ )
			{
				return;
			}

			//有任务。也有空暇线程了
			auto t = get_task();
			auto job =wait_for_running_jobs_.front();
			wait_for_running_jobs_.pop();
			//分发任务到task 线程.
			t->set_job(std::get<0>(job), std::get<1>(job), std::get<2>(job));
		}
	}
	void stop_all()
	{

		std::lock_guard<std::mutex> lock(mutex_);
		stop_all_ = true;
		for( auto t : idle_tasks_ )
		{
			t->stop();
		}
		idle_tasks_.clear();
		for( auto t : busying_tasks_ )
		{
			t->stop();
		}
		while(!wait_for_running_jobs_.empty()){
			wait_for_running_jobs_.pop();
		}

		sync_.notify_one();
	}

	void start()
	{// 初始化启动线程池主线程
		try
		{
			std::thread t( [this]{ execute_job();});
			t.detach();

			stop_all_ = false;
			allocate_tasks();

		}catch( std::exception & e )
		{
			LOG(FATAL) << "start tasks pool ... error"<<e.what();
		}
	}
protected:
	std::tr1::shared_ptr<task> get_task()
	{
		//获取task对象
		if( ! idle_tasks_.empty() )
		{
			auto t = *idle_tasks_.begin();
			idle_tasks_.pop_front();  //从空暇队列移除
			busying_tasks_.insert(t); //增加忙队列

			return t;
		}

		return std::tr1::shared_ptr<task>();

	}

	void allocate_tasks() //初始化线程池
	{
		for( int i = 0 ; i < max_size_; i ++ )
		{
			std::tr1::shared_ptr<task> t( new task());
			try{
				t->start();
				idle_tasks_.push_back(t);
			}catch( std::exception & e)
			{	//超过进程最大线程数限制时,会跑出异常。

。。
				break;
			}
		}
	}
private :
	unsigned int                              max_size_;
	std::list  < std::tr1::shared_ptr<task> > idle_tasks_;   //空暇任务队列
	std::set  <  std::tr1::shared_ptr<task> > busying_tasks_;//正在运行任务的队列
	std::queue< std::tuple< std::function<void()> , std::string, int   >  > wait_for_running_jobs_; //等待运行的任务
	std::mutex             				    mutex_;
	std::condition_variable                 sync_;
	bool stop_all_;
};
  • usage
static task_pool *  tasks = nullptr;
static std::once_flag init_flag;
static std::once_flag finit_flag;

void run_job(const std::function<void()> & job , const std::string &  file, int line )
{
	if( tasks != nullptr)
		tasks->submit_job(job, file,line);

}
void task_pool_init( unsigned max_task_size)
{
	std::call_once(init_flag,[max_task_size]{
		tasks = new task_pool(max_task_size);
		tasks->start();
	});
}
void task_pool_finit()
{
   std::call_once(finit_flag,[]{ tasks->stop_all();});
}
时间: 2024-10-04 16:38:53

基于C++11线程池的相关文章

基于队列的线程池

import java.text.SimpleDateFormat; import java.util.Date; import java.util.concurrent.ArrayBlockingQueue; import java.util.concurrent.BlockingQueue; import java.util.concurrent.ThreadPoolExecutor; import java.util.concurrent.TimeUnit; /**  * Created 

《java.util.concurrent 包源码阅读》11 线程池系列之ThreadPoolExecutor 第一部分

先来看ThreadPoolExecutor的execute方法,这个方法能体现出一个Task被加入到线程池之后都发生了什么: public void execute(Runnable command) { if (command == null) throw new NullPointerException(); /* 如果运行中的worker线程数少于设定的常驻线程数,增加worker线程,把task分配给新建的worker线程 */ int c = ctl.get(); if (worker

C++11线程池的实现

什么是线程池 处理大量并发任务,一个请求一个线程来处理请求任务,大量的线程创建和销毁将过多的消耗系统资源,还增加了线程上下文切换开销. 线程池通过在系统中预先创建一定数量的线程,当任务请求到来时从线程池中分配一个预先创建的线程去处理任务,线程在处理任务之后还可以重用,不用销毁,从而节省系统资源.对于多核处理器,线程会被分配到多个CPU,提高并行处理效率.每个线程独立阻塞,防止主线程被阻塞而使主流程被阻塞 半同步半异步线程池 三层 第一层:同步服务层,处理上层任务请求 第二层:同步排队层,上层的任

基于pthread的线程池实现

最近在做项目的过程中,需要使用线程池来实现任务的异步处理.即线程池中包含提前创建好的线程,客户将任务提交到线程池中,线程池中的线程对任务进行获取并执行.针对项目所使用的pthread线程库,我们设计与实现了一个简单的线程池. 在介绍线程池的实现之前,首先整理一下pthread库的一些接口.pthread是由POSIX提出的线程实现,广泛地被各种unix平台所支持.创建线程的接口为 pthread_create(pthread_t* thread, const pthread_attr_t* at

c++11线程池实现

咳咳.c++11 加入了线程库,从此告别了标准库不支持并发的历史.然而 c++ 对于多线程的支持还是比较低级,稍微高级一点的用法都需要自己去实现,譬如线程池.信号量等.线程池(thread pool)这个东西,在面试上多次被问到,一般的回答都是:"管理一个任务队列,一个线程队列,然后每次取一个任务分配给一个线程去做,循环往复." 貌似没有问题吧.但是写起程序来的时候就出问题了. 废话不多说,先上实现,然后再啰嗦.(dont talk, show me ur code !) #ifnde

iOS编程高性能之路-基于pthread的线程池

原文链接--http://blog.sina.com.cn/s/blog_7011f21c0101dkjj.html 在OC的框架中从NSOperation到GCD的dispatch queue到处都充斥着队列的概念,OC的框架帮我们把底层线程的调度都已经写好了,这样的好处是我们可以专心于上层的业务逻辑,坏处当然是我们对底层调度的掌控力变弱了.写这个线程池的原因也是练练手,至于效率如何,在发到线上几个版本后,反馈还可以.当然还有空间可以持续优化. 一.线程池流程 1.在程序启动时创建固定个线程,

c++ 11 线程池的简单封装

#include <condition_variable> #include <queue> #include <thread> #include <vector> class ThreadPool { public: ThreadPool(int threads = 4) : _stop(false) { for (int index = 0; index < threads; ++index) { _workers.emplace_back(std

基于ThreadPoolExecutor,自定义线程池简单实现

一.线程池作用 在上一篇随笔中有提到多线程具有同一时刻处理多个任务的特点,即并行工作,因此多线程的用途非常广泛,特别在性能优化上显得尤为重要.然而,多线程处理消耗的时间包括创建线程时间T1.工作时间T2.销毁线程时间T3,创建和销毁线程需要消耗一定的时间和资源,如果能够减少这部分的时间消耗,性能将会进一步提高,线程池就能够很好解决问题.线程池在初始化时会创建一定数量的线程,当需要线程执行任务时,从线程池取出线程,当任务执行完成后,线程置回线程池成为空闲线程,等待下一次任务.JDK1.5提供了一个

深入理解Java之线程池

原作者:海子 出处:http://www.cnblogs.com/dolphin0520/ 本文归作者海子和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利. 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了,这样频繁创建线程就会大大降低系统的效率,因为频繁创建线程和销毁线程需要时间. 那么有没有一种办法使得线程可