Python自动化运维之高级函数

一、协程
1.1协程的概念
协程,又称微线程,纤程。英文名Coroutine。一句话说明什么是线程:协程是一种用户态的轻量级线程。(其实并没有说明白~)
那么这么来理解协程比较容易:
  线程是系统级别的,它们是由操作系统调度;协程是程序级别的,由程序员根据需要自己调度。我们把一个线程中的一个个函数叫做子程序,那么子程序在执行过程中可以中断去执行别的子程序;别的子程序也可以中断回来继续执行之前的子程序,这就是协程。也就是说同一线程下的一段代码执行着执行着就可以中断,然后跳去执行另一段代码,当再次回来执行代码块的时候,接着从之前中断的地方开始执行。
比较专业的理解是:
  协程拥有自己的寄存器上下文和栈。协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈。因此:协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置。
1.2 协程的优缺点
协程的优点:
  (1)无需线程上下文切换的开销,协程避免了无意义的调度,由此可以提高性能(但也因此,程序员必须自己承担调度的责任,同时,协程也失去了标准线程使用多CPU的能力)
  (2)无需原子操作锁定及同步的开销
  (3)方便切换控制流,简化编程模型
   (4)高并发+高扩展性+低成本:一个CPU支持上万的协程都不是问题。所以很适合用于高并发处理。
协程的缺点:
  (1)无法利用多核资源:协程的本质是个单线程,它不能同时将 单个CPU 的多个核用上,协程需要和进程配合才能运行在多CPU上.当然我们日常所编写的绝大部分应用都没有这个必要,除非是cpu密集型应用。
  (2)进行阻塞(Blocking)操作(如IO时)会阻塞掉整个程序
2、Python中如何实现协程
2.1 yield实现协程  
  前文所述“子程序(函数)在执行过程中可以中断去执行别的子程序;别的子程序也可以中断回来继续执行之前的子程序”,那么很容易想到Python的yield,显然yield是可以实现这种切换的。

def eater(name):
    print("%s eat food" %name)
    while True:
        food = yield
    print("done")
g = eater("gangdan")
print(g)

执行结果:

<generator object eater at 0x0000000002140FC0>

由执行结果可以证明g现在就是生成器函数

2.2 协程函数赋值过程
用的是yield的表达式形式,要先运行next(),让函数初始化并停在yield,然后再send() ,send会在触发下一次代码的执行时,给yield赋值
next()和send() 都是让函数在上次暂停的位置继续运行,

def creater(name):
    print(‘%s start to eat food‘ %name)
    food_list = []
    while True:
        food = yield food_list
        print(‘%s get %s ,to start eat‘ %(name,food))
        food_list.append(food)
# 获取生成器
builder = creater(‘tom‘)
# 现在是运行函数,让函数初始化
next(builder)
print(builder.send(‘包子‘))
print(builder.send(‘骨头‘))
print(builder.send(‘菜汤‘))

执行结果:

tom start to eat food
tom get 包子 ,to start eat
[‘包子‘]
tom get 骨头 ,to start eat
[‘包子‘, ‘骨头‘]
tom get 菜汤 ,to start eat
[‘包子‘, ‘骨头‘, ‘菜汤‘]

需要注意的是每次都需要先运行next()函数,让程序停留在yield位置。
如果有多个这样的函数都需要执行next()函数,让程序停留在yield位置。为了防止忘记初始化next操作,需要用到装饰器来解决此问题

def init(func):
    def wrapper(*args,**kwargs):
        builder = func(*args,**kwargs)
        next(builder)    # 这个地方是关键可以使用builder.send("None"),第一次必须传入None。
        return builder
    return wrapper
@init
def creater(name):
    print(‘%s start to eat food‘ %name)
    food_list = []
    while True:
        food = yield food_list
        print(‘%s get %s ,to start eat‘ %(name,food))
        food_list.append(food)
# 获取生成器
builder = creater("tom")
# 现在是直接运行函数,无须再函数初始化
print(builder.send(‘包子‘))
print(builder.send(‘骨头‘))
print(builder.send(‘菜汤‘))

执行结果:

tom start to eat food
tom get 包子 ,to start eat
[‘包子‘]
tom get 骨头 ,to start eat
[‘包子‘, ‘骨头‘]
tom get 菜汤 ,to start eat
[‘包子‘, ‘骨头‘, ‘菜汤‘]

2.3 协程函数简单应用
请给Tom投喂食物

def init(func):
    def wrapper(*args,**kwargs):
        builder = func(*args,**kwargs)
        next(builder)
        return builder
    return wrapper
@init
def creater(name):
    print(‘%s start to eat food‘ %name)
    food_list = []
    while True:
        food = yield food_list
        print(‘%s get %s ,to start eat‘ %(name,food))
        food_list.append(food)
def food():
    builder = creater("Tom")
    while True:
        food = input("请给Tom投喂食物:").strip()
        if food == "q":
            print("投喂结束")
            return 0
        else:
            builder.send(food)
if __name__ == ‘__main__‘:
    food()

执行结果:

Tom start to eat food
请给Tom投喂食物:骨头
Tom get 骨头 ,to start eat
请给Tom投喂食物:菜汤
Tom get 菜汤 ,to start eat
请给Tom投喂食物:q
投喂结束

2.4 协程函数的应用
实现linux中"grep -rl error <目录>"命令,过滤一个文件下的子文件、字文件夹的内容中的相应的内容的功能程序
首先了解一个OS模块中的walk方法,能够把参数中的路径下的文件夹打开并返回一个元组

>>> import os # 导入模块
>>> os.walk(r"E:\Python\script") #使用r 是让字符串中的符号没有特殊意义,针对的是转义
<generator object walk at 0x00000000035D3F10>
>>> g = os.walk(r"E:\Python\script")
>>> next(g)
(‘E:\\Python\\script‘, [‘.idea‘, ‘函数‘], [])

返回的是一个元组,第一个元素是文件的路径,第二个是文件夹,第三个是该路径下的文件
这里需要用到一个写程序的思想:面向过程编程
二、面向过程编程
面向过程:核心是过程二字,过程及即解决问题的步骤,基于面向过程设计程序就是一条工业流水线,是一种机械式的思维方式。流水线式的编程思想,在设计程序时,需要把整个流程设计出来
优点:
1:体系结构更加清晰
2:简化程序的复杂度
缺点:
可扩展性极其的差,所以说面向过程的应用场景是:不需要经常变化的软件,如:linux内核,httpd,git等软件

下面就根据面向过程的思想完成协程函数应用中的功能
目录结构:

test
├── aa
│   ├── bb1
│    │    └── file2.txt
│   └── bb2
│       └── file3.txt
└─ file1.txt
文件内容:
file1.txt:error123
file2.txt:123
file3.txt:123error

程序流程
    第一阶段:找到所有文件的绝对路径
    第二阶段:打开文件
    第三阶段:循环读取每一行
    第四阶段:过滤“error”
    第五阶段:打印该行属于的文件名

第一阶段:找到所有文件的绝对路径
g是一个生成器,就能够用next()执行,每次next就是运行一次,这里的运行结果是依次打开文件的路径

>>> import os
>>> g = os.walk(r"E:\Python\script\函数\test")
>>> next(g)
(‘E:\\Python\\script\\函数\\test‘, [‘aa‘], [])
>>> next(g)
(‘E:\\Python\\script\\函数\\test\\aa‘, [‘bb1‘, ‘bb2‘], [‘file1.txt‘])
>>> next(g)
(‘E:\\Python\\script\\函数\\test\\aa\\bb1‘, [], [‘file2.txt‘])
>>> next(g)
(‘E:\\Python\\script\\函数\\test\\aa\\bb2‘, [], [‘file3.txt‘])
>>> next(g)
Traceback (most recent call last):
  File "<input>", line 1, in <module>
StopIteration

我们在打开文件的时候需要找到文件的绝对路径,现在可以通过字符串拼接的方法把第一部分和第三部分进行拼接
用循环打开:

import os
dir_g = os.walk(r"E:\Python\script\函数\test")
for dir_path in dir_g:
    print(dir_path)

结果:

(‘E:\\Python\\script\\函数\\test‘, [‘aa‘], [])
(‘E:\\Python\\script\\函数\\test\\aa‘, [‘bb1‘, ‘bb2‘], [‘file1.txt‘])
(‘E:\\Python\\script\\函数\\test\\aa\\bb1‘, [], [‘file2.txt‘])
(‘E:\\Python\\script\\函数\\test\\aa\\bb2‘, [], [‘file3.txt‘])

将查询出来的文件和路径进行拼接,拼接成绝对路径

import os
dir_g = os.walk(r"E:\Python\script\函数\test")
for dir_path in dir_g:
    for file in dir_path[2]:
        file = "%s\\%s" %(dir_path[0],file)
        print(file)

执行结果:

E:\Python\script\函数\test\aa\file1.txt
E:\Python\script\函数\test\aa\bb1\file2.txt
E:\Python\script\函数\test\aa\bb2\file3.txt

用函数实现:

import os
def search():
    while True:
        dir_name = yield
        dir_g = os.walk(dir_name)
        for dir_path in dir_g:
            for file in dir_path[2]:
                file = "%s\\%s" %(dir_path[0],file)
                print(file)
g = search()
next(g)
g.send(r"E:\Python\script\函数\test")

为了把结果返回给下一流程

@init   # 初始化生成器
def search(target):
    while True:
        dir_name = yield
        dir_g = os.walk(dir_name)
        for pardir,_,files in dir_g:
            for file in files:
                abspath = r"%s\%s" %(pardir,file)
                target.send(abspath)

第二阶段:打开文件

@init
def opener(target):
    while True:
        abspath=yield
        with open(abspath,‘rb‘) as f:
            target.send((abspath,f))

第三阶段:循环读出每一行内容

@init
def cat(target):
    while True:
        abspath,f=yield #(abspath,f)
        for line in f:
            res=target.send((abspath,line))
            if res:break

第四阶段:过滤

@init
def grep(pattern,target):
    tag=False
    while True:
        abspath,line=yield tag
        tag=False
        if pattern in line:
            target.send(abspath)
            tag=True

第五阶段:打印该行属于的文件名

@init
def printer():
    while True:
        abspath=yield
        print(abspath)
g = search(opener(cat(grep(‘error‘.encode(‘utf-8‘), printer()))))
g.send(r‘E:\Python\script\函数\test‘)

执行结果:

E:\Python\script\函数\test\aa\file1.txt
E:\Python\script\函数\test\aa\bb2\file3.txt
时间: 2024-09-30 14:59:56

Python自动化运维之高级函数的相关文章

Python自动化运维课程学习--Day3

本文为参加老男孩Python自动化运维课程第三天学习内容的总结. 大致内容如下: 1.文件操作 2.字符编码转码相关操作 3.函数 0.关于本文中所有运行Python代码的环境: --操作系统:Ubuntu 16.10 (Linux 4.8.0) --Python版本:3.5.2 python2.7.12 --Python IDE: PyCharm 2016.3.2 一.文件操作: 1.文件操作流程:以只读.写(覆盖写).追加写.读写.追加读写.二进制读写等模式打开文件 ==> 得到文件句柄,并

Python自动化运维课程学习--Day2

本文为参加老男孩Python自动化运维课程第二天学习内容的总结. 大致内容如下: 1.python模块初识 2.python程序运行流程 3.python数据类型(只讲了numbers, bool, strings, bytes, list, tuple, dict, set) 4.python数据运算 0.关于本文中所有运行Python代码的环境: --操作系统:Ubuntu 16.10 (Linux 4.8.0) --Python版本:3.5.2 --Python IDE: PyCharm

(转)Python自动化运维之13、异常处理及反射(__import__,getattr,hasattr,setattr)

Python自动化运维之13.异常处理及反射(__import__,getattr,hasattr,setattr) 一.异常处理 python异常: python的运行时错误称作异常 (1)语法错误:软件的结构上有错误而导致不能被解释器解释或不能被编译器编译 (2)逻辑错误:由于不完整或不合法的输入所致,也可能是逻辑无法生成.计算或者输出结果需要的过程无法执行等 python异常是一个对象,表示错误或意外情况 (1)在python检测到一个错误时,将触发一个异常 python可以通常异常传导机

电子书 Python自动化运维:技术与最佳实践.pdf

本书在中国运维领域将有"划时代"的重要意义:一方面,这是国内一本从纵.深和实践角度探讨Python在运维领域应用的著作:一方面本书的作者是中国运维领域的"偶像级"人物,本书是他在天涯社区和腾讯近10年工作经验的结晶.因为作者实战经验丰富,所以能高屋建瓴.直指痛处,围绕Python自动化运维这个主题,不仅详细介绍了系统基础信息.服务监控.数据报表.系统安全等基础模块,而且深入讲解了自动化操作.系统管理.配置管理.集群管理及大数据应用等高级功能.重要的是,完整重现了4个

Python自动化运维开发活动沙龙(2015-07-11周六)

Python自动化运维开发活动沙龙 2015-07-11(周六) 场地限制,最多仅限50人参加,报名从速! 亲,已是2015年了,做为运维工程师的你还在手动装机器.配服务.看监控.帮开发人肉上线么?还在发愁如何把每天重复的工作自动化起来么?还在想对开源软件进行二次开发定制却无能为力么?还在对开发人员提出的各种无理需求想进行反驳却因为自己不懂开发却被人鄙视么?还在为自己天天努力工作.到处救火却每月只能挣个十来K而感到不爽么? Maybe yes,maybe no! 但是不要不爽了,你的工资不高是因

Python自动化运维Django入门

随着IT运维技术日益更新,近几年运维自动化越来越火,而且学习python的人非常的火爆,尤其是python自动化运维开发,得到了很多前辈的推崇,尤其是老男孩培训中心.老男孩老师.Alex老师等,在这里非常感谢你们. 这里我也记录一下以前学习Django的一点点心得和方法,方便以后自己查阅,如果能帮助初学者是最好的了!好的,其他不多说了,博文滴走起. 一.系统实战环境 系统版本:CnetOS6.5 x86_64 Django版本:Django-1.5.8 MySQL版本:MySQL-5.1.73

云计算开发教程:Python自动化运维开发实战流程控制

今天这篇文章是给大家分享一些云计算开发教程,今天讲解的是:Python自动化运维开发实战流程控制. Python条件语句是通过一条或多条语句的执行结果(True或者False)来决定执行的代码块. Python程序语言指定任何非0和非空(null)值为true,0 或者 null为false. if 语句用于控制程序的执行,基本形式为: if 判断条件: 执行语句-- else: 执行语句-- 其中"判断条件"成立时(非零),则执行后面的语句,而执行内容可以多行,以缩进来区分表示同一范

python自动化运维之路~DAY7

python自动化运维之路~DAY7 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.客户端/服务器架构 C/S 架构是一种典型的两层架构,其全称是Client/Server,即客户端服务器端架构,其客户端包含一个或多个在用户的电脑上运行的程序,而服务器端有两种,一种是数据库服务器端,客户端通过数据库连接访问服务器端的数据:另一种是Socket服务器端,服务器端的程序通过Socket与客户端的程序通信. C/S 架构也可以看做是胖客户端架构.因为客户端需要实现绝大多数的业务

python自动化运维之路~DAY10

python自动化运维之路~DAY10 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任.