python3 协程

‘‘‘协程无切换消耗实现了并发,并发:并非线程切,而是线程执行的任务的切换,如果直接切换任务,也是并发缺点:不能利用多核协程是重点,实现多并发,封装了很多好模块,后期应用‘‘‘

协程基本实现
import time

def consumer():
    r = ‘‘
    while True:
        n = yield r
        print(‘[CONSUMER]<<Consuming %s...‘ %n)
        time.sleep(1)
        r = ‘200 OK‘

def produce(c):
    next(c)
    n = 0
    while n < 5:
        n = n + 1
        print(‘[PRODUCER]>>Producing %s...‘ %n)
        cr = c.send(n)
        print(‘[PRODUCER]>>Consumer return: %s‘ % cr)

if __name__ == ‘__main__‘:
    c = consumer()
    produce(c)
‘‘‘greenlet不常用,只能切任务,但是对IO密集型任务不能节省时间‘‘‘
from greenlet import greenlet

def test1():
    print(12)
    gr2.switch()
    print(34)
    gr2.switch()

def test2():
    print(56)
    gr1.switch()
    print(78)

gr1 = greenlet(test1)
gr2 = greenlet(test2)
gr1.switch()
‘‘‘gevent第三方库当一个greenlet遇到IO操作时,比如访问网络,就自动切换到其他的greenlet,等到IO操作完成,再在适当的时候切换回来继续执行‘‘‘
import requests,gevent,time
from gevent import monkey
monkey.patch_all()
# 由于切换是在IO操作时自动完成,所以gevent需要修改Python自带的一些标准库,这一过程在启动时通过monkey patch完成

def foo(url):
    response=requests.get(url)
    response_str=response.text
    print("GET data %s"%len(response_str),url)

s=time.time()

gevent.joinall([gevent.spawn(foo,"https://itk.org/"),
                gevent.spawn(foo,"https://www.github.com/")])
                # gevent.spawn(foo, "https://zhihu.com/")])

print(time.time()-s)
时间: 2024-07-29 17:03:21

python3 协程的相关文章

Python3 协程相关

什么是协程 协程的优势 Python3中的协程 生成器 yield/send yield + send(利用生成器实现协程) 协程的四个状态 协程终止 @asyncio.coroutine和yield from asyncio.coroutione yield from 为什么要用yield from async/await关键字 什么是协程 ??协程(Coroutine),又称微线程,纤程.通常我们认为线程是轻量级的进程,因此我们也把协程理解为轻量级的线程即微线程. ??协程的作用是在执行函数

python3之协程

1.协程的概念 协程,又称微线程,纤程.英文名Coroutine. 线程是系统级别的它们由操作系统调度,而协程则是程序级别的由程序根据需要自己调度.在一个线程中会有很多函数,我们把这些函数称为子程序,在子程序执行过程中可以中断去执行别的子程序,而别的子程序也可以中断回来继续执行之前的子程序,这个过程就称为协程.也就是说在同一线程内一段代码在执行过程中会中断然后跳转执行别的代码,接着在之前中断的地方继续开始执行,类似与yield操作. 协程拥有自己的寄存器上下文和栈.协程调度切换时,将寄存器上下文

用python3的多进程和协程处理MySQL的数据

本文介绍用python3的多进程 + 协程处理MySQL的数据,主要逻辑是拉取MySQL的数据,然后使用flashtext匹配关键字,在存回MySQL,代码如下(async_mysql.py): import time import asyncio import random from concurrent.futures import ProcessPoolExecutor as Pool import aiomysql from flashtext import KeywordProcess

Python与协程从Python2—Python3

协程,又称微线程.纤程,英文名Coroutine:用一句话说明什么是线程的话:协程是一种用户态的轻量级线程. Python对于协程的支持在python2中还比较简单,但是也有可以使用的第三方库,在python3中开始全面支持,也成为python3的一个核心功能,很值得学习. 协程介绍 协程,又称微线程.纤程,英文名Coroutine:用一句话说明什么是线程的话:协程是一种用户态的轻量级线程. 协程拥有自己的寄存器上下文和栈.协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先

小议Python3的原生协程机制

此文已由作者张耕源授权网易云社区发布. 欢迎访问网易云社区,了解更多网易技术产品运营经验. 在最近发布的 Python 3.5 版本中,官方正式引入了 async/await关键字.在 asyncio [1] 标准库中实现了IO多路复用.原生协程(coroutine)与 事件循环(event loop),让人耳目一新,本文也尝试对 Python 3.5 新增加的原生协程 机制与asyncio标准库相关的内容做一个小结. IO多路复用与协程的引入,可以极大的提高高负载下程序的IO性能表现.几年前,

Python3 从零单排29_协程

1.并发的本质:切换+保存状态 cpu正在运行一个任务,会在两种情况下切走去执行其他的任务(切换由操作系统强制控制) 1.该任务发生了阻塞 2.该任务计算的时间过长或有一个优先级更高的程序替代了它 第二种情况并不能提升效率,只是为了让cpu能够雨露均沾,实现看起来所有任务都被"同时"执行的效果,如果多个任务都是纯计算的,这种切换反而会降低效率. yield本身就是一种在单线程下可以保存任务运行状态的方法: 1 yield可以保存状态,yield的状态保存与操作系统的保存线程状态很像,但

Python3学习之路~10.2 协程、Greenlet、Gevent

一 协程 协程,又称微线程,纤程.英文名Coroutine.一句话说明什么是线程:协程是一种用户态的轻量级线程. 协程拥有自己的寄存器上下文和栈.协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈.因此: 协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置. 协程的好处: 无需线程上下文切换的开销 无需原子操作锁定及同步的开销 "原子操作(atomic

python协程函数、递归、匿名函数与内置函数使用、模块与包

目录: 协程函数(yield生成器用法二) 面向过程编程 递归 匿名函数与内置函数的使用 模块 包 常用标准模块之re(正则表达式) 一.协程函数(yield生成器用法二) 1.生成器的语句形式 a.生成器相关python函数.装饰器.迭代器.生成器,我们是如何使用生成器的.一个生成器能暂停执行并返回一个中间的结果这就是 yield 语句的功能 : 返回一个中间值给调用者并暂停执行. 我们的调用方式为yeild 1的方式,此方式又称为生成器的语句形式. 而使用生成器的场景:使用生成器最好的场景就

Python实现基于协程的异步爬虫

一.课程介绍 1. 课程来源 本课程核心部分来自<500 lines or less>项目,作者是来自 MongoDB 的工程师 A. Jesse Jiryu Davis 与 Python 之父 Guido van Rossum.项目代码使用 MIT 协议,项目文档使用 http://creativecommons.org/licenses/by/3.0/legalcode 协议. 课程内容在原文档基础上做了稍许修改,增加了部分原理介绍,步骤的拆解分析及源代码注释. 2. 内容简介 传统计算机