Python学习之高级函数详解

本文和大家分享的主要是python自动化运维中高级函数相关内容,一起来看看吧,希望对大家学习python有所帮助。

一、协程

1.1协程的概念

协程,又称微线程,纤程。英文名Coroutine。一句话说明什么是线程:协程是一种用户态的轻量级线程。(其实并没有说明白~)

那么这么来理解协程比较容易:

线程是系统级别的,它们是由操作系统调度;协程是程序级别的,由程序员根据需要自己调度。我们把一个线程中的一个个函数叫做子程序,那么子程序在执行过程中可以中断去执行别的子程序;别的子程序也可以中断回来继续执行之前的子程序,这就是协程。也就是说同一线程下的一段代码执行着执行着就可以中断,然后跳去执行另一段代码,当再次回来执行代码块的时候,接着从之前中断的地方开始执行。

比较专业的理解是:

协程拥有自己的寄存器上下文和栈。协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈。因此:协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置。

1.2 协程的优缺点

协程的优点:

(1)无需线程上下文切换的开销,协程避免了无意义的调度,由此可以提高性能(但也因此,程序员必须自己承担调度的责任,同时,协程也失去了标准线程使用多CPU的能力)

(2)无需原子操作锁定及同步的开销

(3)方便切换控制流,简化编程模型

(4)高并发+高扩展性+低成本:一个CPU支持上万的协程都不是问题。所以很适合用于高并发处理。

协程的缺点:

(1)无法利用多核资源:协程的本质是个单线程,它不能同时将 单个CPU 的多个核用上,协程需要和进程配合才能运行在多CPU上.当然我们日常所编写的绝大部分应用都没有这个必要,除非是cpu密集型应用。

(2)进行阻塞(Blocking)操作(如IO时)会阻塞掉整个程序

2、Python中如何实现协程

2.1 yield实现协程

前文所述“子程序(函数)在执行过程中可以中断去执行别的子程序;别的子程序也可以中断回来继续执行之前的子程序”,那么很容易想到Python的yield,显然yield是可以实现这种切换的。

def eater(name):

print("%s eat food" %name)

while True:

food = yield

print("done")

g = eater("gangdan")

print(g)

执行结果:

<generator object eater at 0x0000000002140FC0>

由执行结果可以证明g现在就是生成器函数

2.2 协程函数赋值过程

用的是yield的表达式形式,要先运行next(),让函数初始化并停在yield,然后再send() ,send会在触发下一次代码的执行时,给yield赋值

next()和send() 都是让函数在上次暂停的位置继续运行,

def creater(name):

print(’%s start to eat food’ %name)

food_list = []

while True:

food = yield food_list

print(’%s get %s ,to start eat’ %(name,food))

food_list.append(food)# 获取生成器

builder = creater(’tom’)# 现在是运行函数,让函数初始化

next(builder)

print(builder.send(’包子’))

print(builder.send(’骨头’))

print(builder.send(’菜汤’))

执行结果:

tom start to eat food

tom get 包子 ,to start eat

[’包子

tom get 骨头 ,to start eat

[’包子’, ’骨头

tom get 菜汤 ,to start eat

[’包子’, ’骨头’, ’菜汤

需要注意的是每次都需要先运行next()函数,让程序停留在yield位置。

如果有多个这样的函数都需要执行next()函数,让程序停留在yield位置。为了防止忘记初始化next操作,需要用到装饰器来解决此问题

def init(func):

def wrapper(*args,**kwargs):

builder = func(*args,**kwargs)

next(builder)    # 这个地方是关键可以使用builder.send("None"),第一次必须传入None。

return builder

return [email protected] creater(name):

print(’%s start to eat food’ %name)

food_list = []

while True:

food = yield food_list

print(’%s get %s ,to start eat’ %(name,food))

food_list.append(food)# 获取生成器

builder = creater("tom")# 现在是直接运行函数,无须再函数初始化

print(builder.send(’包子’))

print(builder.send(’骨头’))

print(builder.send(’菜汤’))

执行结果:

tom start to eat food

tom get 包子 ,to start eat

[’包子

tom get 骨头 ,to start eat

[’包子’, ’骨头

tom get 菜汤 ,to start eat

[’包子’, ’骨头’, ’菜汤

2.3 协程函数简单应用

请给Tom投喂食物

def init(func):

def wrapper(*args,**kwargs):

builder = func(*args,**kwargs)

next(builder)

return builder

return [email protected] creater(name):

print(’%s start to eat food’ %name)

food_list = []

while True:

food = yield food_list

print(’%s get %s ,to start eat’ %(name,food))

food_list.append(food)def food():

builder = creater("Tom")

while True:

food = input("请给Tom投喂食物:").strip()

if food == "q":

print("投喂结束")

return 0

else:

builder.send(food)if __name__ == ’__main__’:

food()

执行结果:

Tom start to eat food

请给Tom投喂食物:骨头

Tom get 骨头 ,to start eat

请给Tom投喂食物:菜汤

Tom get 菜汤 ,to start eat

请给Tom投喂食物:q

投喂结束

2.4 协程函数的应用

实现linux中"grep -rl error <目录>"命令,过滤一个文件下的子文件、字文件夹的内容中的相应的内容的功能程序

首先了解一个OS模块中的walk方法,能够把参数中的路径下的文件夹打开并返回一个元组

>>> import os # 导入模块>>> os.walk(r"E:\Python\script") #使用r 是让字符串中的符号没有特殊意义,针对的是转义

>>> g = os.walk(r"E:\Python\script")>>> next(g)

(’E:\\Python\\script’, [’.idea’, ’函数’], [])

返回的是一个元组,第一个元素是文件的路径,第二个是文件夹,第三个是该路径下的文件

这里需要用到一个写程序的思想:面向过程编程

二、面向过程编程

面向过程:核心是过程二字,过程及即解决问题的步骤,基于面向过程设计程序就是一条工业流水线,是一种机械式的思维方式。流水线式的编程思想,在设计程序时,需要把整个流程设计出来

优点:

1:体系结构更加清晰

2:简化程序的复杂度

缺点:

可扩展性极其的差,所以说面向过程的应用场景是:不需要经常变化的软件,如:linux内核,httpd,git等软件

下面就根据面向过程的思想完成协程函数应用中的功能

目录结构:

test

├── aa

│   ├── bb1

│    │    └── file2.txt

│   └── bb2

│       └── file3.txt

└─ file1.txt

文件内容:file1.txt:error123file2.txt:123file3.txt:123error

程序流程

第一阶段:找到所有文件的绝对路径

第二阶段:打开文件

第三阶段:循环读取每一行

第四阶段:过滤“error”

第五阶段:打印该行属于的文件名

第一阶段:找到所有文件的绝对路径

g是一个生成器,就能够用next()执行,每次next就是运行一次,这里的运行结果是依次打开文件的路径

>>> import os>>> g = os.walk(r"E:\Python\script\函数\test")>>> next(g)

(’E:\\Python\\script\\函数\\test’, [’aa’], [])>>> next(g)

(’E:\\Python\\script\\函数\\test\\aa’, [’bb1’, ’bb2’], [’file1.txt’])>>> next(g)

(’E:\\Python\\script\\函数\\test\\aa\\bb1’, [], [’file2.txt’])>>> next(g)

(’E:\\Python\\script\\函数\\test\\aa\\bb2’, [], [’file3.txt’])>>> next(g)

Traceback (most recent call last):

File "file:///C:\Users\wlc\AppData\Local\Temp\ksohtml\wps86F5.tmp.wmf", line 1, in

StopIteration

我们在打开文件的时候需要找到文件的绝对路径,现在可以通过字符串拼接的方法把第一部分和第三部分进行拼接

用循环打开:

import os

dir_g = os.walk(r"E:\Python\script\函数\test")for dir_path in dir_g:

print(dir_path)

结果:

(’E:\\Python\\script\\函数\\test’, [’aa’], [])

(’E:\\Python\\script\\函数\\test\\aa’, [’bb1’, ’bb2’], [’file1.txt’])

(’E:\\Python\\script\\函数\\test\\aa\\bb1’, [], [’file2.txt’])

(’E:\\Python\\script\\函数\\test\\aa\\bb2’, [], [’file3.txt’])

将查询出来的文件和路径进行拼接,拼接成绝对路径

import os

dir_g = os.walk(r"E:\Python\script\函数\test")for dir_path in dir_g:

for file in dir_path[2]:

file = "%s\\%s" %(dir_path[0],file)

print(file)

执行结果:

E:\Python\script\函数\test\aa\file1.txtE:\Python\script\函数\test\aa\bb1\file2.txtE:\Python\script\函数\test\aa\bb2\file3.txt

用函数实现:

import osdef search():

while True:

dir_name = yield

dir_g = os.walk(dir_name)

for dir_path in dir_g:

for file in dir_path[2]:

file = "%s\\%s" %(dir_path[0],file)

print(file)

g = search()

next(g)

g.send(r"E:\Python\script\函数\test")

为了把结果返回给下一流程

@init   # 初始化生成器def search(target):

while True:

dir_name = yield

dir_g = os.walk(dir_name)

for pardir,_,files in dir_g:

for file in files:

abspath = r"%s\%s" %(pardir,file)

target.send(abspath)

第二阶段:打开文件

@initdef opener(target):

while True:

abspath=yield

with open(abspath,’rb’) as f:

target.send((abspath,f))

第三阶段:循环读出每一行内容

@initdef cat(target):

while True:

abspath,f=yield #(abspath,f)

for line in f:

res=target.send((abspath,line))

if res:break

第四阶段:过滤

@initdef grep(pattern,target):

tag=False

while True:

abspath,line=yield tag

tag=False

if pattern in line:

target.send(abspath)

tag=True

第五阶段:打印该行属于的文件名

@initdef printer():

while True:

abspath=yield

print(abspath)

g = search(opener(cat(grep(’error’.encode(’utf-8’), printer()))))

g.send(r’E:\Python\script\函数\test’)

执行结果:

E:\Python\script\函数\test\aa\file1.txt

E:\Python\script\函数\test\aa\bb2\file3.txt

来源:51CTO

时间: 2024-09-30 00:33:37

Python学习之高级函数详解的相关文章

Python中的高级数据结构详解

这篇文章主要介绍了Python中的高级数据结构详解,本文讲解了Collection.Array.Heapq.Bisect.Weakref.Copy以及Pprint这些数据结构的用法,需要的朋友可以参考下 数据结构 数据结构的概念很好理解,就是用来将数据组织在一起的结构.换句话说,数据结构是用来存储一系列关联数据的东西.在Python中有四种内建的数据结构,分别是List.Tuple.Dictionary以及Set.大部分的应用程序不需要其他类型的数据结构,但若是真需要也有很多高级数据结构可供选择

Python中的getattr()函数详解:

Python中的getattr()函数详解: getattr(object, name[, default]) -> value Get a named attribute from an object; getattr(x, 'y') is equivalent to x.y. When a default argument is given, it is returned when the attribute doesn't exist; without it, an exception i

python命名空间与闭包函数详解

python命名空间与闭包函数详解 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 本篇博客主要介绍的知识点如下: 1>.三元运算 2>.命名空间 3>.global与nonlocal 4>.函数即变量 5>.嵌套函数 6>.闭包函数 一.三元运算 1 #!/usr/bin/env python 2 #_*_coding:utf-8_*_ 3 #@author :yinzhengjie 4 #blog:http://www.cnblogs.com/yi

thinkphp函数学习(3): C函数详解

function C($name=null, $value=null,$default=null) { static $_config = array(); // 无参数时获取所有 if (empty($name)) { return $_config; } // 优先执行设置获取或赋值 if (is_string($name)) { if (!strpos($name, '.')) { $name = strtolower($name); if (is_null($value)) return

python学习之计算机基础详解

1.CPU详解 ·型号(x86-64) ? x86是指的CPU的型号,这种型号的CPU采用的是x86架构. ? 64是指CPU一次能够从内存中接受64位二进制数据:CPU具有向下兼容性,64位的CPU既能运行32位的程序也能运行64位的程序. ·内核态与用户态 ? CPU最核心的部分为控制其他硬件的指令集,指令集分为控制指令集和运算指令集: 当计算机运行操作系统的代码时,所有指令集都开放,此时称为CPU的内核态: 当计算机运行应用程序的代码时,只开放运算相关的指令集,此时称为CPU的用户态. ?

Python学习之String模块详解

本文和大家分享的主要是python 中String 模块相关内容,一起来看看吧,希望对大家 学习python有所帮助. String 模块包含大量实用常量和类,以及一些过时的遗留功能,并还可用作字符串操作. 1. 常用方法 str.capitalize() 把字符串的首字母大写 str.center(width) 将原字符串用空格填充成一个长度为 width 的字符串,原字符串内容居中 str.count(s) 返回字符串 s 在 str 中出现的次数 str.decode(encoding='

Python学习之单步调试详解

遇到大型python项目,如何定位问题和监控程序的运行状态是一个程序员必须掌握的技能,本文和大家分享的是python程序的单步调试方法,一起来看看吧,希望对大家学习python有所帮助. 首先你需要在所调试程序的开头中:import pdb 并在你的代码行设置断点:pdb.set_trace() def get_input(Data, SuiteID, CaseID, caseinfolist): global sArge sArge='' args = [] #对于get请求,将参数组合 if

Python学习之ImportError 错误详解

本文和大家分享的主要是Python 的 ImportError 错误相关内容,一起来看看吧,希望对大家学习python有所帮助. 问题 错误:ImportError: No module named XXX 在Python的工程中,偶尔会遇到文件无法引用的情况,即PyCharm IDE支持文件跳转,但是当文件执行时,找不到模块. 例如,错误如下: Traceback (most recent call last): File "utils/average_clinic.py", lin

Pandas学习之常用函数详解

本文和大家分享的主要是Pandas库常用函数相关内容,一起来看看吧,希望对大家学习Pandas有所帮助. 1. DataFrame 处理缺失值 pandas.DataFrame.dropna df2.dropna(axis=0, how='any', subset=[u'ToC'], inplace=True) 把在ToC列有缺失值的行去掉 2. 根据某维度计算重复的行 pandas.DataFrame.duplicated print df.duplicated(['name']).value