Python3之greenlet&gevent模块

一.greenlet模块

简单实现单线程内的任务切换:

  1: import greenlet
  2: def eat(name):
  3:     print("%s eat 1" % name)
  4:     # 第二步
  5:     g2.switch("egon")
  6:     print("%s eat 2" % name)
  7:     # 第四步
  8:     g2.switch()
  9: def play(name):
 10:     print("%s play 1" % name)
 11:     # 第三步
 12:     g1.switch()
 13:     print("%s play 2" % name)
 14: g1 = greenlet.greenlet(eat)
 15: g2 = greenlet.greenlet(play)
 16: # 第一步
 17: g1.switch("egon")

对照结果:

  1: egon eat 1
  2: egon play 1
  3: egon eat 2
  4: egon play 2

注意单纯的切换(没有io的情况下或者没有重复开辟内存空间的操作),反而会降低程序的执行速度。

二.gevent模块

Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程。

用法:

  1: g1=gevent.spawn(func,1,,2,3,x=4,y=5)创建一个协程对象g1,spawn括号内第一个参数是函数名,如eat,后面可以有多个参数,可以是位置实参或关键字实参,都是传给函数eat的
  2:
  3: g2=gevent.spawn(func2)
  4:
  5: g1.join() #等待g1结束
  6:
  7: g2.join() #等待g2结束
  8:
  9: #或者上述两步合作一步:gevent.joinall([g1,g2])
 10:
 11: g1.value#拿到func1的返回值

遇到IO阻塞时会自动切换任务

  1: import gevent
  2: def eat(name):
  3:     print(‘%s eat 1‘ %name)
  4:     gevent.sleep(2)
  5:     print(‘%s eat 2‘ %name)
  6: def play(name):
  7:     print(‘%s play 1‘ %name)
  8:     gevent.sleep(1)
  9:     print(‘%s play 2‘ %name)
 10: g1=gevent.spawn(eat,‘egon‘)
 11: g2=gevent.spawn(play,name=‘egon‘)
 12: g1.join()
 13: g2.join()
 14: #或者gevent.joinall([g1,g2])
 15: print(‘回到主‘)

上例gevent.sleep(2)模拟的是gevent可以识别的io阻塞,

而time.sleep(2)或其他的阻塞,gevent是不能直接识别的需要用下面一行代码,打补丁,就可以识别了

from gevent import monkey;monkey.patch_all()必须放到被打补丁者的前面,如time,socket模块之前

  1: from gevent import monkey;monkey.patch_all()
  2:
  3: import gevent
  4: import time
  5: def eat():
  6:     print(‘eat food 1‘)
  7:     time.sleep(2)
  8:     print(‘eat food 2‘)
  9:
 10: def play():
 11:     print(‘play 1‘)
 12:     time.sleep(1)
 13:     print(‘play 2‘)
 14:
 15: g1=gevent.spawn(eat)
 16: g2=gevent.spawn(play_phone)
 17: gevent.joinall([g1,g2])
 18: print(‘主‘)

通过gevent实现单线程下的socket并发(from gevent import monkey;monkey.patch_all()一定要放到导入socket模块之前,否则gevent无法识别socket的阻塞)

server

  1: from gevent import monkey;monkey.patch_all()
  2: from socket import *
  3: import gevent
  4:
  5: #如果不想用money.patch_all()打补丁,可以用gevent自带的socket
  6: # from gevent import socket
  7: # s=socket.socket()
  8:
  9: def server(server_ip,port):
 10:     s=socket(AF_INET,SOCK_STREAM)
 11:     s.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)
 12:     s.bind((server_ip,port))
 13:     s.listen(5)
 14:     while True:
 15:         conn,addr=s.accept()
 16:         gevent.spawn(talk,conn,addr)
 17:
 18: def talk(conn,addr):
 19:     try:
 20:         while True:
 21:             res=conn.recv(1024)
 22:             print(‘client %s:%s msg: %s‘ %(addr[0],addr[1],res))
 23:             conn.send(res.upper())
 24:     except Exception as e:
 25:         print(e)
 26:     finally:
 27:         conn.close()
 28:
 29: if __name__ == ‘__main__‘:
 30:     server(‘127.0.0.1‘,8080)

client

  1: from threading import Thread
  2: from socket import *
  3: import threading
  4:
  5: def client(server_ip,port):
  6:     c=socket(AF_INET,SOCK_STREAM) #套接字对象一定要加到函数内,即局部名称空间内,放在函数外则被所有线程共享,则大家公用一个套接字对象,那么客户端端口永远一样了
  7:     c.connect((server_ip,port))
  8:
  9:     count=0
 10:     while True:
 11:         c.send((‘%s say hello %s‘ %(threading.current_thread().getName(),count)).encode(‘utf-8‘))
 12:         msg=c.recv(1024)
 13:         print(msg.decode(‘utf-8‘))
 14:         count+=1
 15: if __name__ == ‘__main__‘:
 16:     for i in range(500):
 17:         t=Thread(target=client,args=(‘127.0.0.1‘,8080))
 18:         t.start()

原文地址:https://www.cnblogs.com/haoqirui/p/10336411.html

时间: 2024-08-30 18:25:00

Python3之greenlet&gevent模块的相关文章

(并发编程)进程池线程池--提交任务的2种方式、协程--yield greenlet,gevent模块

一:进程池与线程池(同步,异步+回调函数)先造个池子,然后放任务为什么要用"池":池子使用来限制并发的任务数目,限制我们的计算机在一个自己可承受的范围内去并发地执行任务池子内什么时候装进程:并发的任务属于计算密集型池子内什么时候装线程:并发的任务属于IO密集型 #提交任务的两种方式:    # 同步调用:提交完一个任务之后,就在原地等待,等待任务完完整整地运行完毕拿到结果后,再执行下一行代码,会导致任务是串行执行的    # 异步调用:提交完一个任务之后,不在原地等待,结果???,而是

# 进程/线程/协程 # IO:同步/异步/阻塞/非阻塞 # greenlet gevent # 事件驱动与异步IO # Select\Poll\Epoll异步IO 以及selectors模块 # Python队列/RabbitMQ队列

1 # 进程/线程/协程 2 # IO:同步/异步/阻塞/非阻塞 3 # greenlet gevent 4 # 事件驱动与异步IO 5 # Select\Poll\Epoll异步IO 以及selectors模块 6 # Python队列/RabbitMQ队列 7 8 ############################################################################################## 9 1.什么是进程?进程和程序之间有什么

并发编程 - 协程 - 1.协程概念/2.greenlet模块/3.gevent模块/4.gevent实现并发的套接字通信

1.协程并发:切+保存状态单线程下实现并发:协程 切+ 保存状态 yield 遇到io切,提高效率 遇到计算切,并没有提高效率 检测单线程下 IO行为 io阻塞 切 相当于骗操作系统 一直处于计算协程:...单线程下实现并发:根本目标:遇到IO就切,一个线程的整体IO降下来程序用的cpu 时间长,就叫执行效率高效率最高:多个进程 (多个cpu) 每个进程开多个线程 每个线程用到协程 (IO就切)总结协程特点: 1 #并发执行 2 import time 3 4 def producer(): 5

协程:Greenlet模块、Gevent模块

三.Greenlet模块 Greenlet是python的一个C扩展,来源于Stackless python,旨在提供可自行调度的'微线程', 即协程.generator实现的协程在yield value时只能将value返回给调用者(caller). 而在greenlet中,target.switch(value)可以切换到指定的协程(target), 然后yield value.greenlet用switch来表示协程的切换,从一个协程切换到另一个协程需要显式指定. 安装 :pip3 ins

python3 gevent模块(遇到IO自动切换)

# -*- coding: utf-8 -*- from gevent import monkey;monkey.patch_all() # 记住一定放在第一行,这里是打补丁的意思 import gevent import time def eat(name): print("%s eat first" % name) time.sleep(3) print("%s eat second" % name) def play(name): print("%s

17、第七周-网络编程 - 协程概念介绍、协程gevent模块并发爬网页

协程,又称微线程,纤程.什么是线程:协程是一种用户态的轻量级线程. 协程拥有自己的寄存器上下文和栈.协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈.因此:协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置. 协程的好处: 无需线程上下文切换的开销 无需原子操作锁定及同步的开销(注解:"原子操作(atomic operation)是不需要synchr

gevent模块

一 gevent模块 安装 pip3 install gevent Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程. Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度. #用法 g1=gevent.spawn(func,1,,2,3,x=4,y=5)创建一个协程对象g1,spawn括号内第一个参数是函数名,如eat,后面可以有多个参数,可以是

单线程实现并发——协程,gevent模块

一 并发的本质 1 切换 2 保存状态 二 协程的概念 协程,又称微线程,纤程.英文名Coroutine.单线程下实现并发,用户从应用程序级别控制单线程下任务的切换,注意一定是遇到I/O才切. 协程的特点在于是一个线程执行,那和多线程比,协程有何优势? 最大的优势就是协程极高的执行效率.因为子程序切换不是线程切换,而是由程序自身控制,因此,没有线程切换的开销,和多线程比,线程数量越多,协程的性能优势就越明显. 第二大优势就是不需要多线程的锁机制,因为只有一个线程,也不存在同时写变量冲突,在协程中

Python并发编程(线程队列,协程,Greenlet,Gevent)

线程队列 线程之间的通信我们列表行不行呢,当然行,那么队列和列表有什么区别呢? queue队列 :使用import queue,用法与进程Queue一样 queue is especially useful in threaded programming when information must be exchanged safely between multiple threads. class queue.Queue(maxsize=0) #先进先出 import queue #不需要通过