python多线程编程-queue模块和生产者-消费者问题

摘录python核心编程

本例中演示生产者-消费者模型:商品或服务的生产者生产商品,然后将其放到类似队列的数据结构中。生产商品中的时间是不确定的,同样消费者消费商品的时间也是不确定的。

使用queue模块(python2.x版本中,叫Queue)来提供线程间通信的机制,从而让线程之间可以分享数据。具体而言,就是创建一个队列,让生产者(线程)在其中放入新的商品,而消费者(线程)消费这些商品。

下表是queue模块的部分属性:

属性 描述
queue模块的类
Queue(maxsize=0) 创建一个先入先出队列。如果给定最大值,则在队列没有空间时阻塞;否则,为无限队列
LifoQueue(maxsize=0) 创建一个后入先出队列。如果给定最大值,则在队列没有空间时阻塞;否则,为无限序列
PriorityQueue(maxsize=0) 创建一个优先级队列。如果给定最大值,则在队列没有空间时阻塞;否则,为无限序列
queue异常
Empty 当对空队列调用get*()方法时抛出异常
Full 当对已满的队列调用put*()方法时抛出异常
queue对象方法
qsize() 返回队列大小。(由于返回队列大小时可能被其他线程修改,所以该值为近似值)
empty() 如果队列为空,则返回True,否则返回False
full() 如果队列已满,则返回True,否则返回False
put(item,block=True,timeout=None) 将item放入队列。如果block为True(默认值),且timeout为None,则在有可用空间之前阻塞;如果timeout为正值,最多阻塞timeout秒;如果block为False,则抛出Empty异常
put_nowait(item) 和put(item,False)效果相同
get(block=True,timeout=None) 从队列上取得元素。如果给定了block(非0),则一直阻塞直到有可用的元素为止
get_nowait() 和get(False)效果想用
task_done() 用于表示队列中的某个元素已执行完成,该方法会被下面的join()使用
join() 在队列中所有元素执行完毕并调用上面的task_done()信号前,保持阻塞。

下面的prodcons.py脚本中使用了queue对象实现了生产者-消费者场景,随机生产或消费商品,且生产者和消费者独立、并发的执行线程。注意,这里使用了在之前章节中改写的MyThread类

#python 3.6
from random import randint
from time import sleep
from queue import Queue
from myThread import MyThread
#将一个对象放入队列中
def writeQ(queue):
    print(‘正在为队列生产………‘)
    queue.put(‘商品‘,1)
    print(‘当前商品总数:‘,queue.qsize())
#消费队列中的一个对象
def readQ(queue):
    val = queue.get(1)
    print(‘正在从队列中消费商品……消费后还剩余商品:‘,queue.qsize())
#模仿生产者。
def writer(queue,loops):
    for i in range(loops):
        writeQ(queue)
        sleep(randint(1,3))#writer的睡眠时间一般比reader短,是为了阻碍 reader从空队列中获取对象,换句话说就是使得轮到reader执行时,已存在可消费对象的可能性更大。
#模仿消费者
def reader(queue,loops):
    for i in range(loops):
        readQ(queue)
        sleep(randint(2,5))

funcs = [writer,reader]
nfuncs = range(len(funcs))

def main():
    nloops = randint(2,5)#randint 和randrange类似,区别在于,randrange是半开半闭区间,而randint是闭区间
    q = Queue(32)

    threads = []#模拟线程池
    for i in nfuncs:
        t = MyThread(funcs[i],(q,nloops),funcs[i].__name__)#创建线程
        threads.append(t)

    for i in nfuncs:
        threads[i].start()  #开始执行线程

    for i in nfuncs:
        threads[i].join()

    print(‘结束‘)

if __name__ == ‘__main__‘:
    main()

执行效果类似:

PS C:\Users\WC> python E:\Python3.6.3\workspace\prodcons.py
开始执行 writer  在: Thu Apr 19 21:06:22 2018
正在为队列生产………
开始执行 reader  在: Thu Apr 19 21:06:22 2018
当前商品总数: 1
正在从队列中消费商品……消费后还剩余商品: 0
正在为队列生产………
当前商品总数: 1
正在从队列中消费商品……消费后还剩余商品: 0
正在为队列生产………
当前商品总数: 1
正在从队列中消费商品……消费后还剩余商品: 0
正在为队列生产………
当前商品总数: 1
正在为队列生产………
当前商品总数: 2
writer 结束于: Thu Apr 19 21:06:30 2018
正在从队列中消费商品……消费后还剩余商品: 1
正在从队列中消费商品……消费后还剩余商品: 0
reader 结束于: Thu Apr 19 21:06:39 2018
结束

原文地址:https://www.cnblogs.com/hiwuchong/p/8886277.html

时间: 2024-10-09 06:37:19

python多线程编程-queue模块和生产者-消费者问题的相关文章

python 多线程笔记(5)-- 生产者/消费者模式

我们已经知道,对公共资源进行互斥访问,可以使用Lock上锁,或者使用RLock去重入锁. 但是这些都只是方便于处理简单的同步现象,我们甚至还不能很合理的去解决使用Lock锁带来的死锁问题. 要解决更复杂的同步问题,就必须考虑别的办法了. threading提供的Condition对象提供了对复杂线程同步问题的支持. Condition被称为条件变量,除了提供与Lock类似的acquire和release方法外,还提供了wait和notify方法. 使用Condition的主要方式为: 线程首先a

python 多线程笔记(6)-- 生产者/消费者模式(续)

用 threading.Event() 也可以实现生产者/消费者模式 (自己拍脑袋想出来的,无法知道其正确性,请大神告知为谢!) import threading import time import random products = 20 class Producer(threading.Thread): '''生产者''' ix = [0] # 生产者实例个数 # 闭包,必须是数组,不能直接 ix = 0 def __init__(self): super().__init__() sel

python多线程编程----threading模块

1.threading 模块中的内容 - Thread: 一个可执行线程对象 - Lock: 原始的Lock对象 与thread模块中一样 - RLock: 允许单个线程多次请求的Lock - Condition: 线程等待直到条件满足 - Event : 事件发生时,唤醒所有等待进程 - Semaphore:信号量,标识有限资源的个数 - Timer: 定时启动线程 - Barrier: 等待指定的所有的进程都来到 2.daemon threads 守护进程 如果你的主线程准备退出,并且你并不

Python多线程编程

原文 运行几个线程和同时运行几个不同的程序类似,它有以下好处: 一个进程内的多个线程和主线程分享相同的数据空间,比分开不同的过程更容易分享信息或者彼此通信. 线程有时叫做轻量化过程,而且他们不要求更多的内存开支:它们比过程便宜. 一个线程的顺序是:启动,执行和停止.有一个指令指针跟踪线程正在运行的上下文在哪里. 它可以被抢占(中断) 它能暂时被挂起(也叫做休眠),而别的线程在运行--这也叫做yielding(让步). 开始一个新线程: 要生成一个线程,需要调用在thread模块中方法如下: th

并发编程—— 阻塞队列和生产者-消费者模式

Java并发编程实践 目录 并发编程—— ConcurrentHashMap 并发编程—— 阻塞队列和生产者-消费者模式 概述 第1部分 为什么要使用生产者和消费者模式 第2部分 什么是生产者消费者模式 第3部分 代码示例 第1部分 为什么要使用生产者和消费者模式 在线程世界里,生产者就是生产数据的线程,消费者就是消费数据的线程.在多线程开发当中,如果生产者处理速度很快,而消费者处理速度很慢,那么生产者就必须等待消费者处理完,才能继续生产数据.同样的道理,如果消费者的处理能力大于生产者,那么消费

python多线程与threading模块

python多线程与_thread模块 中介绍了线程的基本概念以及_thread模块的简单示例.然而,_thread模块过于简单,使得我们无法用它来准确地控制线程,本文介绍threading模块,它提供了更强大的多线程管理方案. threading模块的对象 Thread 表示一个执行线程的对象 Lock 锁原语 RLock 可重入锁对象,使单一线程可以再次获得已持有的锁(递归锁) Condition 条件变量对象,使得一个线程等待另一个线程满足特定条件 Event 条件变量的通用版本,任意数量

day-3 聊聊python多线程编程那些事

python一开始给我的印象是容易入门,适合应用开发,编程简洁,第三方库多等等诸多优点,并吸引我去深入学习.直到学习完多线程编程,在自己环境上验证完这句话:python解释器引入GIL锁以后,多CPU场景下,也不再是并行方式运行,甚至比串行性能更差.不免有些落差,一开始就注定了这门语言迟早是有天花板的,对于一些并行要求高的系统,python可能不再成为首选,甚至是完全不考虑.但是事情也并不是绝对悲观的,我们已经看到有一大批人正在致力优化这个特性,新版本较老版本也有了一定改进,一些核心模块我们也可

python 多线程编程

一)线程基础 1.创建线程: thread模块提供了start_new_thread函数,用以创建线程.start_new_thread函数成功创建后还能够对其进行操作. 其函数原型: start_new_thread(function,atgs[,kwargs]) 其參数含义例如以下: function: 在线程中运行的函数名 args:元组形式的參数列表. kwargs: 可选參数,以字典的形式指定參数 方法一:通过使用thread模块中的函数创建新线程. >>> import th

多线程通信小例子——New生产者消费者

多线程通信小例子--New生产者消费者