Python学习笔记__10.1章 多进程

# 这是学习廖雪峰老师python教程的学习笔记

1、概览

Unix/Linux操作系统提供了一个fork()系统调用。fork()调用一次,返回两次,因为操作系统自动把当前进程(称为父进程)复制了一份(称为子进程),然后,分别在父进程和子进程内返回。

子进程永远返回0,而父进程返回子进程的ID。这样做的理由是,一个父进程可以fork出很多子进程,所以,父进程要记下每个子进程的ID,而子进程只需要调用getppid()就可以拿到父进程的ID。

1.1、创建子进程

Python的os模块封装了常见的系统调用,其中就包括fork

import os

print('Process (%s) start...' % os.getpid()) #打印父进程 ID

pid = os.fork()   # os.fork()的返回值赋给 pid

if pid == 0:  # 返回值是0,说明这是子进程空间

print('I am child process (%s) and my parent is %s.' % (os.getpid(), os.getppid()))

else:

print('I (%s) just created a child process (%s).' % (os.getpid(), pid))

# 运行结果

Process (876) start...

I (876) just created a child process (877).

I am child process (877) and my parent is 876.

有了fork调用,一个进程在接到新任务时就可以复制出一个子进程来处理新任务,常见的Apache服务器就是由父进程监听端口,每当有新的http请求时,就fork出子进程来处理新的http请求。

2、multiprocessing

multiprocessing模块是跨平台版本的多进程模块

2.1、创建子进程

multiprocessing模块提供了一个Process类来代表一个进程对象

from multiprocessing import Process

import os

# 子进程要执行的代码

def run_proc(name):

print('Run child process %s (%s)...' % (name, os.getpid()))

if __name__=='__main__':

print('Parent process %s.' % os.getpid())

p = Process(target=run_proc, args=('test',))  # target指定子进程,args指定参数

print('Child process will start.')

p.start() #start() 方法启动

p.join()  # join()方法可以等待子进程结束后再继续往下运行,通常用于进程间的同步

print('Child process end.')

3、Pool

如果要启动大量的子进程,可以用进程池的方式批量创建子进程:

from multiprocessing import Pool

import os, time, random

def long_time_task(name):    # 提示执行的任务,并打印任务的执行时间

print('Run task %s (%s)...' % (name, os.getpid()))

start = time.time()

time.sleep(random.random() * 3)  #休眠。random是类。它有个方法叫random

end = time.time()

print('Task %s runs %0.2f seconds.' % (name, (end - start)))

if __name__=='__main__':

print('Parent process %s.' % os.getpid())

p = Pool(4)     # 同时可以运行的进程数。由系统CPU_physical核数决定

for i in range(5):

p.apply_async(long_time_task, args=(i,)) # 异步执行任务

print('Waiting for all subprocesses done...')

p.close()  # 调用join()之前必须先调用close(),调用close()之后就不能继续添加新的Process

p.join()  #  join()方法会等待所有子进程执行完毕

print('All subprocesses done.')

# 执行结果

Parent process 669.

Waiting for all subprocesses done...

Run task 0 (671)...

Run task 1 (672)...

Run task 2 (673)...

Run task 3 (674)...

Task 2 runs 0.14 seconds.

Run task 4 (673)...

Task 1 runs 0.27 seconds.

Task 3 runs 0.86 seconds.

Task 0 runs 1.41 seconds.

Task 4 runs 1.91 seconds.

All subprocesses done.

4、子进程

很多时候,子进程并不是自身,而是一个外部进程。我们创建了子进程后,还需要控制子进程的输入和输出。

subprocess模块可以让我们非常方便地启动一个子进程,然后控制其输入和输出。

# 在Python代码中运行命令nslookup www.python.org

import subprocess

print('$ nslookup www.python.org')

r = subprocess.call(['nslookup', 'www.python.org']) # 调用call()方法,执行命令nslookup,参数为网址

print('Exit code:', r)  # 打印r的返回值。0表示无错误

# 向子进程输入参数(测试有误,问题待查)

如果子进程还需要输入,则可以通过communicate()方法输入

import subprocess

print('$ nslookup')

# Popen()方法,创建新进程。PIPE,表示设置文件对象。

# stdin用来提供输入到新创建的子进程

# stdout用来保存新创建的子进程的输出

# stderr用来保存新创建的子进程的错误输出。

p = subprocess.Popen(['nslookup'], stdin=subprocess.PIPE, stdout=subprocess.PIPE, stderr=subprocess.PIPE)

output, err = p.communicate(b'set q=mx\npython.org\nexit\n')  #输入参数,\n是换行符。b''表示将其转化为bytes

print(output.decode('utf-8'))   #解码

print('Exit code:', p.returncode)

参考文档:

python类库[进程subprocess与管道pipe] (https://blog.csdn.net/xumingwei12345/article/details/51941183)

5、进程间通信

Process之间肯定是需要通信的,操作系统提供了很多机制来实现进程间的通信。

Python的multiprocessing模块包装了底层的机制,提供了Queue、Pipes等多种方式来交换数据。

# 父进程中创建两个子进程,一个往Queue里写数据,一个从Queue里读数据

from multiprocessing import Process, Queue

import os, time, random

# 写数据进程执行的代码:

def write(q):

print('Process to write: %s' % os.getpid())

for value in ['A', 'B', 'C']:

print('Put %s to queue...' % value)

q.put(value) # 往Queue() 中放入数据

time.sleep(random.random())

# 读数据进程执行的代码:

def read(q):

print('Process to read: %s' % os.getpid())

while True:  # 死循环

value = q.get(True)

print('Get %s from queue.' % value)

if __name__=='__main__':

# 父进程创建Queue,并传给各个子进程:

q = Queue()

pw = Process(target=write, args=(q,))

pr = Process(target=read, args=(q,))

# 启动子进程pw,写入:

pw.start()

# 启动子进程pr,读取:

pr.start()

# 等待pw结束:

pw.join()

# pr进程里是死循环,无法等待其结束,只能强行终止:

pr.terminate()

# 运行结果如下:

Process to write: 50563

Put A to queue...

Process to read: 50564

Get A from queue.

Put B to queue...

Get B from queue.

Put C to queue...

Get C from queue.

6、小结

在Unix/Linux下,可以使用fork()调用实现多进程。

要实现跨平台的多进程,可以使用multiprocessing模块。

进程间通信是通过Queue、Pipes等实现的。

原文地址:http://blog.51cto.com/12758568/2116998

时间: 2024-10-08 04:03:43

Python学习笔记__10.1章 多进程的相关文章

Python学习笔记__10.4章 进程VS线程

# 这是学习廖雪峰老师python教程的学习笔记 1.概览 我们介绍了多进程和多线程,这是实现多任务最常用的两种方式.现在,我们来讨论一下这两种方式的优缺点 要实现多任务,通常我们会设计Master-Worker模式,Master负责分配任务,Worker负责执行任务,因此,多任务环境下,通常是一个Master,多个Worker. 如果用多进程实现Master-Worker,主进程就是Master,其他进程就是Worker. 如果用多线程实现Master-Worker,主线程就是Master,其

Python学习笔记__10.5章 分布式进程

# 这是学习廖雪峰老师python教程的学习笔记 1.概览 在Thread和Process中,应当优选Process,因为Process更稳定,而且,Process可以分布到多台机器上,而Thread最多只能分布到同一台机器的多个CPU上. Python的multiprocessing模块不但支持多进程,其中managers子模块还支持把多进程分布到多台机器上.依靠网络通信,一个服务进程可以作为调度者,将任务分布到其他多个进程中.由于managers模块封装很好,不必了解网络通信的细节,就可以很

Python学习笔记__10.3章 ThreadLocal

# 这是学习廖雪峰老师python教程的学习笔记 1.概览 在多线程环境下,每个线程都有自己的数据.一个线程使用自己的局部变量比使用全局变量好,因为局部变量只有线程自己能看见,不会影响其他线程,而全局变量的修改必须加锁.但线程的局部变量,在函数调用时很麻烦 1)方式一:一层一层传 def process_student(name): std = Student(name)   # std是局部变量,但是每个函数都要用它,因此必须传进去: do_task_1(std) do_task_2(std)

Python学习笔记__7.3章 多重继承

# 这是学习廖雪峰老师python教程的学习笔记 一个子类可以有多个父类.这就叫多重继承.通过多重继承,一个子类就可以同时获得多个父类的所有功能. 1.1.Mixin 在设计类的继承关系时,通常,主线都是单一继承下来的. 通过多重继承,而给某个类添加额外功能.这种设计我们称为Mixin 定义 Mammal 类 class Mammal(Object): pass 定义 Runable 类 class Runnable(object): def run(self): print('Running.

Python学习笔记__2.2章 定义函数

# 这是学习廖雪峰老师python教程的学习笔记 1.定义函数 定义一个函数需要有函数名.参数.函数体.函数体中最好还有 传入的参数判断 1.1.函数创建 定义一个函数用def,数据类型检查用isinstance.例子如下: def my_abs(x): if not isinstance(x, (int, float)):    # 判断传入的参数,是否是 ××× 或 浮点形 raise TypeError('bad operand type')  #  抛出错误 if x >= 0: ret

Python学习笔记__3.3章 列表生成式

# 这是学习廖雪峰老师python教程的学习笔记 1.概览 列表生成式即List Comprehensions,是Python内置的非常简单却强大的可以用来创建list的生成式 1.生成list [1, 2, 3, 4, 5, 6, 7, 8, 9, 10] list(range(1, 11)) 2.列表生成式 [1x1, 2x2, 3x3, ..., 10x10] [x*x for x in range(1,11)] 3.使用两层循环 >>>[m + n for m in 'ABC'

Python学习笔记__3.2章 迭代

# 这是学习廖雪峰老师python教程的学习笔记 1.概览 如果给定一个list或tuple,我们可以通过for循环来遍历这个list或tuple,这种遍历我们称为迭代(Iteration). 当然,不止 list 和 tuple 可以迭代.只要是可迭代对象,无论有无下标,都可以迭代都.包括dict .str .generator 在Python中,迭代是通过for ... in来完成的. 1.1.字典的迭代 # 定义一个字典 d = {'a': 1, 'b': 2, 'c': 3} 迭代 字典

Python学习笔记__3.5章 迭代器

# 这是学习廖雪峰老师python教程的学习笔记 1.概览 我们已经学习了list.tuple.dict.set.str.generator.generator function 这些可以用for 循环的就是可迭代(Iterable)对象. 但其中只有generator 和 generator function,可以被 next() 函数调用. 而能被next函数调用的 Iterable对象,我们称为迭代器(Iterator) 1.1.Iterable 到Iterator 的转化 虽然Itera

Python学习笔记__4.1章 高阶函数

# 这是学习廖雪峰老师python教程的学习笔记 1.概览 我们知道Python内置的求绝对值的函数是abs() # 调用abs()函数可以获得一个值 >>> abs(-10) 10 # 那么,只写abs本身呢 >>> abs <built-in function abs> 可见,abs(-10)是函数调用,而abs是函数本身 1.1.将函数赋给变量 将函数赋给变量只有两种情况: 把函数计算得到的 结果 赋给变量 f=abs(-10) 把 函数本身 赋给变量