c++11线程池实现

咳咳。c++11 加入了线程库,从此告别了标准库不支持并发的历史。然而 c++ 对于多线程的支持还是比较低级,稍微高级一点的用法都需要自己去实现,譬如线程池、信号量等。线程池(thread pool)这个东西,在面试上多次被问到,一般的回答都是:“管理一个任务队列,一个线程队列,然后每次取一个任务分配给一个线程去做,循环往复。” 貌似没有问题吧。但是写起程序来的时候就出问题了。

废话不多说,先上实现,然后再啰嗦。(dont talk, show me ur code !)


  1. #ifndef ILOVERS_THREAD_POOL_H
  2. #define ILOVERS_THREAD_POOL_H
  3. #include <iostream>
  4. #include <functional>
  5. #include <thread>
  6. #include <condition_variable>
  7. #include <future>
  8. #include <atomic>
  9. #include <vector>
  10. #include <queue>
  11. // 命名空间
  12. namespace ilovers {
  13. class TaskExecutor;
  14. }
  15. class ilovers::TaskExecutor{
  16. using Task = std::function<void()>;
  17. private:
  18. // 线程池
  19. std::vector<std::thread> pool;
  20. // 任务队列
  21. std::queue<Task> tasks;
  22. // 同步
  23. std::mutex m_task;
  24. std::condition_variable cv_task;
  25. // 是否关闭提交
  26. std::atomic<bool> stop;
  27. public:
  28. // 构造
  29. TaskExecutor(size_t size = 4): stop {false}{
  30. size = size < 1 ? 1 : size;
  31. for(size_t i = 0; i< size; ++i){
  32. pool.emplace_back(&TaskExecutor::schedual, this); // push_back(std::thread{...})
  33. }
  34. }
  35. // 析构
  36. ~TaskExecutor(){
  37. for(std::thread& thread : pool){
  38. thread.detach(); // 让线程“自生自灭”
  39. //thread.join(); // 等待任务结束, 前提:线程一定会执行完
  40. }
  41. }
  42. // 停止任务提交
  43. void shutdown(){
  44. this->stop.store(true);
  45. }
  46. // 重启任务提交
  47. void restart(){
  48. this->stop.store(false);
  49. }
  50. // 提交一个任务
  51. template<class F, class... Args>
  52. auto commit(F&& f, Args&&... args) ->std::future<decltype(f(args...))> {
  53. if(stop.load()){ // stop == true ??
  54. throw std::runtime_error("task executor have closed commit.");
  55. }
  56. using ResType = decltype(f(args...)); // typename std::result_of<F(Args...)>::type, 函数 f 的返回值类型
  57. auto task = std::make_shared<std::packaged_task<ResType()>>(
  58. std::bind(std::forward<F>(f), std::forward<Args>(args)...)
  59. ); // wtf !
  60. { // 添加任务到队列
  61. std::lock_guard<std::mutex> lock {m_task};
  62. tasks.emplace([task](){ // push(Task{...})
  63. (*task)();
  64. });
  65. }
  66. cv_task.notify_all(); // 唤醒线程执行
  67. std::future<ResType> future = task->get_future();
  68. return future;
  69. }
  70. private:
  71. // 获取一个待执行的 task
  72. Task get_one_task(){
  73. std::unique_lock<std::mutex> lock {m_task};
  74. cv_task.wait(lock, [this](){ return !tasks.empty(); }); // wait 直到有 task
  75. Task task {std::move(tasks.front())}; // 取一个 task
  76. tasks.pop();
  77. return task;
  78. }
  79. // 任务调度
  80. void schedual(){
  81. while(true){
  82. if(Task task = get_one_task()){
  83. task(); //
  84. }else{
  85. // return; // done
  86. }
  87. }
  88. }
  89. };
  90. #endif
  91. void f()
  92. {
  93. std::cout << "hello, f !" << std::endl;
  94. }
  95. struct G{
  96. int operator()(){
  97. std::cout << "hello, g !" << std::endl;
  98. return 42;
  99. }
  100. };
  101. int main()
  102. try{
  103. ilovers::TaskExecutor executor {10};
  104. std::future<void> ff = executor.commit(f);
  105. std::future<int> fg = executor.commit(G{});
  106. std::future<std::string> fh = executor.commit([]()->std::string { std::cout << "hello, h !" << std::endl; return "hello,fh !";});
  107. executor.shutdown();
  108. ff.get();
  109. std::cout << fg.get() << " " << fh.get() << std::endl;
  110. std::this_thread::sleep_for(std::chrono::seconds(5));
  111. executor.restart(); // 重启任务
  112. executor.commit(f).get(); //
  113. std::cout << "end..." << std::endl;
  114. return 0;
  115. }catch(std::exception& e){
  116. std::cout << "some unhappy happened... " << e.what() << std::endl;
  117. }

为了避嫌,先进行一下版权说明:代码是 me “写”的,但是思路来自 Internet, 特别是这个线程池实现(窝的实现,基本 copy 了这个实现,好东西值得
copy !)。

实现原理

接着前面的废话说。“管理一个任务队列,一个线程队列,然后每次取一个任务分配给一个线程去做,循环往复。” 这个思路有神马问题?线程池一般要复用线程,所以如果是取一个 task 分配给某一个 thread,执行完之后再重新分配,在语言层面基本都是不支持的:一般语言的 thread 都是执行一个固定的 task 函数,执行完毕线程也就结束了(至少 c++ 是这样)。so 要如何实现 task 和 thread 的分配呢?

让每一个 thread 都去执行调度函数:循环获取一个 task,然后执行之。

idea 是不是很赞!保证了 thread 函数的唯一性,而且复用线程执行 task 。

即使理解了 idea,me 想代码还是需要详细解释一下的。

  1. 一个线程 pool,一个任务队列 queue ,应该没有意见;
  2. 任务队列是典型的生产者-消费者模型,本模型至少需要两个工具:一个 mutex + 一个条件变量,或是一个 mutex + 一个信号量。mutex 实际上就是锁,保证任务的添加和移除(获取)的互斥性,一个条件变量是保证获取 task 的同步性:一个 empty 的队列,线程应该等待(阻塞);
  3. stop 控制任务提交,是受了 Java 的影响,还有实现类不叫 ThreadPool 而是叫 TaskExecutor;
  4. atomic<bool> 本身是原子类型,从名字上就懂:它们的操作 load()/store() 是原子操作,所以不需要再加 mutex。

c++语言细节

即使懂原理也不代表能写出程序,上面用了众多c++11的“奇技淫巧”,下面简单描述之。

  1. using Task = function<void()> 是类型别名,简化了 typedef 的用法。function<void()> 可以认为是一个函数类型,接受任意原型是 void() 的函数,或是函数对象,或是匿名函数。void() 意思是不带参数,没有返回值。最初的实现版本 Task 类型不是单纯的函数类型,而是一个 class,包含一个 status 字段,表明 Task 的状态:未调度、执行中、执行结束。后来因为简化,故删掉了。
  2. pool.emplace_back(&TaskExecutor::schedual, this); 和 pool.push_back(thread{&TaskExecutor::schedual, this}) 功能一样,只不过前者性能会更好;
  3. thread{&TaskExecutor::schedual, this} 是构造了一个线程对象,执行函数是成员函数 TaskExecutor::schedual ;
  4. 所有对象的初始化方式均采用了 {},而不再使用之前的 () 方式,因为风格不够一致且容易出错;
  5. 匿名函数: [](int a, int b)->int { return a+b; } 不多说。[] 是捕捉器,&r 是引用域外的变量 r, =r 是拷贝域外的 r 值;
  6. delctype(expr) 用来推断 expr 的类型,和 auto 是类似的,相当于类型占位符,占据一个类型的位置;auto f(A a, B b) -> decltype(a+b) 是一种用法,不能写作 decltype(a+b) f(A a, B b),为啥?! c++ 就是这么规定的!
  7. commit 方法是不是略奇葩!可以带任意多的参数,第一个参数是 f,后面依次是函数 f 的参数! 可变参数模板是 c++11 的一大亮点,够亮!至于为什么是 Arg... 和 arg... ,因为规定就是这么用的!
  8. make_shared 用来构造 shared_ptr 智能指针。用法大体是 shared_ptr<int> p = make_shared<int>(4) 然后 *p == 4 。智能指针的好处就是, 自动 delete !
  9. bind 函数,接受函数 f 和部分参数,返回currying后的匿名函数,譬如 bind(add, 4) 可以实现类似 add4 的函数!
  10. forward() 函数,类似于 move() 函数,后者是将参数右值化,前者是... 肿么说呢?大概意思就是:不改变最初传入的类型的引用类型(左值还是左值,右值还是右值);
  11. packaged_task 就是任务函数的封装类,通过 get_future 获取 future , 然后通过 future 可以获取函数的返回值(future.get());packaged_task 本身可以像函数一样调用 () ;
  12. queue 是队列类, front() 获取头部元素, pop() 移除头部元素;back() 获取尾部元素,push() 尾部添加元素;
  13. lock_guard 是 mutex 的 stack 封装类,构造的时候 lock(),析构的时候 unlock(),是 c++ RAII 的 idea;
  14. condition_variable cv; 条件变量, 需要配合 unique_lock 使用;unique_lock 相比 lock_guard 的好处是:可以随时 unlock() 和 lock()。 cv.wait() 之前需要持有 mutex,wait 本身会 unlock() mutex,如果条件满足则会重新持有 mutex。

结束语

是不是感觉有些反人类!

版权声明:本文为博主原创文章,未经博主允许不得转载。

时间: 2024-10-03 08:59:29

c++11线程池实现的相关文章

《java.util.concurrent 包源码阅读》11 线程池系列之ThreadPoolExecutor 第一部分

先来看ThreadPoolExecutor的execute方法,这个方法能体现出一个Task被加入到线程池之后都发生了什么: public void execute(Runnable command) { if (command == null) throw new NullPointerException(); /* 如果运行中的worker线程数少于设定的常驻线程数,增加worker线程,把task分配给新建的worker线程 */ int c = ctl.get(); if (worker

C++11线程池的实现

什么是线程池 处理大量并发任务,一个请求一个线程来处理请求任务,大量的线程创建和销毁将过多的消耗系统资源,还增加了线程上下文切换开销. 线程池通过在系统中预先创建一定数量的线程,当任务请求到来时从线程池中分配一个预先创建的线程去处理任务,线程在处理任务之后还可以重用,不用销毁,从而节省系统资源.对于多核处理器,线程会被分配到多个CPU,提高并行处理效率.每个线程独立阻塞,防止主线程被阻塞而使主流程被阻塞 半同步半异步线程池 三层 第一层:同步服务层,处理上层任务请求 第二层:同步排队层,上层的任

基于C++11线程池

1.包装线程对象 class task : public std::tr1::enable_shared_from_this<task> { public: task():exit_(false){} task( const task & ) = delete; ~task(){} task & operator =( const task &) = delete; void start(); void stop() { exit_ = true; sync_.noti

c++ 11 线程池的简单封装

#include <condition_variable> #include <queue> #include <thread> #include <vector> class ThreadPool { public: ThreadPool(int threads = 4) : _stop(false) { for (int index = 0; index < threads; ++index) { _workers.emplace_back(std

线程池中的线程的排序问题

1 package org.zln.thread.poolqueue; 2 3 import org.slf4j.Logger; 4 import org.slf4j.LoggerFactory; 5 6 import java.util.Comparator; 7 import java.util.UUID; 8 import java.util.concurrent.*; 9 10 /** 11 * 线程池中的线程的排序问题 12 * Created by sherry on 16/11/4

深入理解Java之线程池

原作者:海子 出处:http://www.cnblogs.com/dolphin0520/ 本文归作者海子和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利. 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了,这样频繁创建线程就会大大降低系统的效率,因为频繁创建线程和销毁线程需要时间. 那么有没有一种办法使得线程可

《java.util.concurrent 包源码阅读》13 线程池系列之ThreadPoolExecutor 第三部分

这一部分来说说线程池如何进行状态控制,即线程池的开启和关闭. 先来说说线程池的开启,这部分来看ThreadPoolExecutor构造方法: public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, ThreadFactory threadFactory, RejectedExecut

Java并发编程:线程池的使用

在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了,这样频繁创建线程就会大大降低系统的效率,因为频繁创建线程和销毁线程需要时间. 那么有没有一种办法使得线程可以复用,就是执行完一个任务,并不被销毁,而是可以继续执行其他的任务? 在Java中可以通过线程池来达到这样的效果.今天我们就来详细讲解一下Java的线程池,首先我们从最核心的ThreadPoolExecutor类中的方法讲起,

[转]深入理解Java之线程池

出处:http://www.cnblogs.com/dolphin0520/ 本文归作者海子和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利. 在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题: 如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了,这样频繁创建线程就会大大降低系统的效率,因为频繁创建线程和销毁线程需要时间. 那么有没有一种办法使得线程可以复用,就是执