【Python之旅】第六篇（六）：Python多进程使用
香飘叶子 2016-05-10 10:57:50 浏览190 评论0
python 多进程 多进程通信
摘要： 关于进程与线程的对比，下面的解释非常好的说明了这两者的区别： 这里主要说明关于Python多进程的下面几点： 1 2 3 4 5 6 7 1.多进程的使用方法 2.进程间的通信之multiprocessing.Manager()使用 3.Python进程池 ...
关于进程与线程的对比，下面的解释非常好的说明了这两者的区别：
这里主要说明关于Python多进程的下面几点：
1
2
3
4
5
6
7
|
1.多进程的使用方法
2.进程间的通信之multiprocessing.Manager()使用
3.Python进程池
（1）比较简单的例子
（2）多个进程多次并发的情况
（3）验证apply.async方法是非阻塞的
（4）验证apply.async中的get()方法是阻塞的
|
1.多进程的使用方法
直接给出下面程序代码及注释：
1
2
3
4
5
6
7
8
9
10
|
from multiprocessing import Process #从多进程模块中导入Process
import time
def sayHi(name):
print ‘Hi my name is %s‘ % name
time.sleep(3)
for i in range(10):
p = Process(target=sayHi, args=(i,)) #调用多进程使用方法
p.start() #开始执行多进程
|
程序执行结果如下：
1
2
3
4
5
6
7
8
9
10
11
|
[email protected]:/mnt/hgfs/Python/day6$ python multiprocssing8.py
Hi my name is 2
Hi my name is 3
Hi my name is 6
Hi my name is 1
Hi my name is 4
Hi my name is 5
Hi my name is 0
Hi my name is 7
Hi my name is 8
Hi my name is 9
|
输出顺序不一致，则是因为屏幕的抢占问题而已，但不同的进程执行是并发的。在执行程序的过程中，可以打开另一个窗口来查看进程的执行情况（上面sleep了3秒，所以速度一定要快）：
1
2
3
4
5
6
7
8
9
10
11
12
13
|
[email protected]:~$ ps -ef | grep mul*
xpleaf 10468 1827 1 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10469 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10470 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10471 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10472 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10473 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10474 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10475 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10476 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10477 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10478 10468 0 19:34 pts/1 00:00:00 python multiprocssing8.py
xpleaf 10480 8436 0 19:34 pts/2 00:00:00 grep --color=auto mul*
|
可以看到上面有11个进程，但是前面其实只开了10个进程，为什么会有11个呢？那是因为有一个主进程，即这整一个程序本身，而其它的10个进程则是这个主进程下面的子进程，但无论如何，它们都是进程。
同多线程一样，多进程也有join方法，即可以在p.start()后面加上去，一个进程的执行需要等待上一个进程执行完毕后才行，这就相当于进程的执行就是串行的了。
2.进程间的通信multiprocessing.Manager()使用
Manager()返回的manager对象控制了一个server进程，此进程包含的python对象可以被其他的进程通过proxies来访问。从而达到多进程间数据通信且安全。
Manager支持的类型有list,dict,Namespace,Lock,RLock,Semaphore,BoundedSemaphore,Condition,Event,Queue,Value和Array。
直接看下面的一个例子：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
|
import multiprocessing
import time
def worker(d, key, value):
d[key] = value
mgr = multiprocessing.Manager()
d = mgr.dict()
jobs = [] #用来接收多进程函数的返回的结果，存放的是函数的入口
for i in range(10):
jobs.append(multiprocessing.Process(target=worker,args=(d,i,i*i)))
for j in jobs: #执行存放的函数入口
j.start()
for j in jobs: #检测进程是否执行完毕
j.join()
#time.sleep(1) #如果有join()来进程进程是否执行完毕，则这里可以省略
print (‘Results:‘ )
print d
|
程序执行结果如下：
1
2
3
|
[email protected]:/mnt/hgfs/Python/day6$ python multiprocssing_manager9.py
Results:
{0: 0, 1: 1, 2: 4, 3: 9, 4: 16, 5: 25, 6: 36, 7: 49, 8: 64, 9: 81}
|
3.Python进程池
前面我们讲过CPU在某一时刻只能执行一个进程，那为什么上面10个进程还能够并发执行呢？实际在CPU在处理上面10个进程时是在不停的切换执行这10个进程，但由于上面10个进程的程序代码都是十分简单的，并没有涉及什么复杂的功能，并且，CPU的处理速度实在是非常快，所以这样一个过程在我们人为感知里确实是在并发执行的，实际只不过是CPU在不停地切换而已，这是通过增加切换的时间来达到目的的。
10个简单的进程可以产生这样的效果，那试想一下，如果我有100个进程需要CPU执行，但因为CPU还要进行其它工作，只能一次再处理10个进程（切换处理），否则有可能会影响其它进程工作，这下可怎么办？这时候就可以用到Python中的进程池来进行调控了，在Python中，可以定义一个进程池和这个池的大小，假如定义进程池的大小为10，那么100个进程可以分10次放进进程池中，然后CPU就可以10次并发完成这100个进程了。
（1）比较简单的例子
程序代码及注释如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
|
from multiprocessing import Process,Pool #导入Pool模块
import time
def sayHi(num):
time.sleep(1)
return num*num
p = Pool(processes=5) #定义进程池的数量为5
result = p.apply_async(sayHi, [10]) #开始执行多进程，async为异步执行，即不会等待其它
#子进程的执行结果，为非阻塞模式，除非使用了get()方法，get()方法会等待子进程返回执行结果，
#再去执行下一次进程，可以看后面的例子；同理下有apply方法，阻塞模式，会等待子进程返回执行结果
print result.get() #get()方法
|
程序执行结果如下：
1
2
3
4
5
6
|
[email protected]:/mnt/hgfs/Python/day6$ time python multiprocssing_pool10.py
100
real 0m1.066s
user 0m0.016s
sys 0m0.032s
|
虽然是定义了进程池的数量为5，但由于这里只执行一个子进程，所以时间为1秒多。
上面的程序可以改写为下面的形式：
1
2
3
4
5
6
7
8
9
10
11
12
|
from multiprocessing import Process,Pool
import time
def sayHi(num):
time.sleep(1)
return num*num
p = Pool(processes=5)
result = p.map(sayHi,range(3))
for i in result:print i
|
执行结果如下：
1
2
3
4
|
[email protected]:/mnt/hgfs/Python/day6$ python multiprocssing_pool10.py
0
1
4
|
（2）多个进程多次并发的情况：解释进程池作用以及多进程并发执行消耗切换时间
修改上面的程序代码如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
from multiprocessing import Process,Pool
import time
def sayHi(num):
time.sleep(1)
return num*num
p = Pool(processes=5)
result_list = []
for i in range(30):
result_list.append(p.apply_async(sayHi, [i]))
for res in result_list:
print res.get()
|
程序执行结果如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
|
[email protected]:/mnt/hgfs/Python/day6$ python multiprocssing_pool_2_11.py
0
1
4
9
16
25
36
49
64
81
100
121
144
169
196
225
256
289
324
361
400
441
484
529
576
625
676
729
784
841
|
每一部分数字之间有空白是因为我按了回车键的原因，以让这个结果更加明显，同时也可以知道，上面的30个进程是分6次来完成的，是因为我定义了进程池的数量为5（30/6=5），为了更有说服力，可以看一下程序的执行时间：
1
2
3
4
5
|
[email protected]:/mnt/hgfs/Python/day6$ time python multiprocssing_pool_2_11.py | grep real
real 0m6.143s
user 0m0.052s
sys 0m0.028s
|
可以看到执行的时间为6秒多，之所以不是6秒是因为主程序本身的执行需要一点时间，同时进程间的切换也是需要时间的（这里为5个进程间的切换，因为每次并发执行的进程数为5个），为了说明这一点，我们可以把pool大小改为100，但依然是并发执行6次，程序代码修改为如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
from multiprocessing import Process,Pool
import time
def sayHi(num):
time.sleep(1)
return num*num
p = Pool(processes=100)
result_list = []
for i in range(600):
result_list.append(p.apply_async(sayHi, [i]))
for res in result_list:
print res.get()
|
再观察一下执行时间：
1
2
3
4
5
|
[email protected]:/mnt/hgfs/Python/day6$ time python multiprocssing_pool_2_11.py | grep real
real 0m6.371s
user 0m0.080s
sys 0m0.128s
|
虽然相差的时间只是零点几秒，但随着并发执行进程数的增加，进程间切换需要的时间越来越多，程序执行的时间也就越多，特别是当单个进程非常消耗CPU资源时。
（3）验证apply.sync方法是非阻塞的
第一个程序代码的注释中，我们说apply.sync方法是非阻塞的，也就是说，无论子进程是否已经执行完毕，只要主进程执行完毕，程序就会退出，看下面的探索过程，以验证一下。
看下面的程序代码：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
from multiprocessing import Process,Pool
import time
def sayHi(num):
time.sleep(10)
return num*num
p = Pool(processes=5)
result_list = []
for i in range(30):
result_list.append(p.apply_async(sayHi, [i]))
for res in result_list:
print res.get()
|
先查看程序的执行时间：
1
2
3
4
5
|
[email protected]:/mnt/hgfs/Python/day6$ time python multiprocssing_pool_2_11.py | grep real
real 0m0.149s
user 0m0.020s
sys 0m0.024s
|
第一次运行这个程序时，出乎了我的意料，本来我以为这个程序的执行要18s左右才对的，因为子进程并发执行了6次，每一次都sleep了3s（并发执行的进程数比较少，切换的时间就不算上去了），但实际上也并非是如此，因为我查看系统进程时，情况是下面这样的：
1
2
|
[email protected]:~$ ps -ef | grep mul*
xpleaf 11499 8436 0 20:35 pts/2 00:00:00 grep --color=auto mul*
|
如果原来我的想法是正确的，那么应该在这里可以看到多个我执行的进程才对（因为有个3s的时间在子进程里，并发6次，18s，应该有才对），为什么会没有呢？后来我把程序代码修改为如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
from multiprocessing import Process,Pool
import time
def sayHi(num):
time.sleep(3)
return num*num
p = Pool(processes=5)
result_list = []
for i in range(30):
result_list.append(p.apply_async(sayHi, [i]))
time.sleep(3)
|
即我在主程序中添加了time.sleep(3)的代码，还是先查看时间：
1
2
3
4
5
|
[email protected]:/mnt/hgfs/Python/day6$ time python multiprocssing_pool_2_11.py | grep real
real 0m3.107s
user 0m0.040s
sys 0m0.032s
|
在上面程序执行过程中，迅速地在另一个窗口查看系统进程：
1
2
3
4
5
6
7
8
|
[email protected]:~$ ps -ef | grep mul*
xpleaf 11515 1827 4 20:39 pts/1 00:00:00 python multiprocssing_pool_2_11.py
xpleaf 11517 11515 0 20:39 pts/1 00:00:00 python multiprocssing_pool_2_11.py
xpleaf 11518 11515 0 20:39 pts/1 00:00:00 python multiprocssing_pool_2_11.py
xpleaf 11519 11515 0 20:39 pts/1 00:00:00 python multiprocssing_pool_2_11.py
xpleaf 11520 11515 0 20:39 pts/1 00:00:00 python multiprocssing_pool_2_11.py
xpleaf 11521 11515 0 20:39 pts/1 00:00:00 python multiprocssing_pool_2_11.py
xpleaf 11526 8436 0 20:39 pts/2 00:00:00 grep --color=auto mul*
|
程序执行结束后，即显示了上面的时间后，我再查看进程：
1
2
|
[email protected]:~$ ps -ef | grep mul*
xpleaf 11529 8436 0 20:39 pts/2 00:00:00 grep --color=auto mul*
|
于是，上网查找了一些资料，apply.async是非阻塞的，所谓的非阻塞是指：主进程不会等待子进程的返回结果后再结束；正常情况下，如果是产生于主进程的子进程，在主进程结束后也应该不会退出才对，但因为这里的子进程是由pool进程池产生的，所以主进程结束，pool即关闭，因为pool池中的进程需要pool调度才能执行，因此当pool关闭后，这些子进程也随即结束运行。
其实join方法就可以实现一个功能，就是让子进程结束后才结束主进程，把上面的代码修改为如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
from multiprocessing import Process,Pool
import time
def sayHi(num):
time.sleep(3)
return num*num
p = Pool(processes=5)
result_list = []
for i in range(30):
result_list.append(p.apply_async(sayHi, [i]))
p.close() #执行p.join()前需要先关闭进程池，否则会出错
p.join() #主进程等待子进程执行完后才结束
|
查看执行的时间：
1
2
3
4
5
6
|
[email protected]:/mnt/hgfs/Python/day6$ time python multiprocssing_pool_2_11.py | grep real
real 0m18.160s
user 0m0.048s
sys 0m0.044s
[email protected]
|
当然，结果就是我们可以预料的了。
（4）验证apply.async中的get()方法是阻塞的
使用apply.sync中的get()方法时，是会阻塞的，即apply.sync会等进程返回执行结果后才会执行下一个进程，其实（2）中的第一个例子就可以体现出来（程序中有get()，于是就忽略apply.async的非阻塞特性，等待子进程返回结果并使用get()获得结果）。这里不妨看下来一个例子，以实现虽然是多进程并发，但是因为get()的缘故，进程是串行执行的。
程序代码如下：
1
2
3
4
5
6
7
8
9
10
11
12
|
from multiprocessing import Process,Pool
import time
def sayHi(num):
time.sleep(1)
return num*num
p = Pool(processes=5)
for i in range(20):
result = p.apply_async(sayHi, [i])
print result.get()
|
程序执行结果如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
|
[email protected]:/mnt/hgfs/Python/day6$ time python multiprocssing_pool10.py
0
1
4
9
16
25
36
49
64
81
100
121
144
169
196
225
256
289
324
361
real 0m20.194s
user 0m0.044s
sys 0m0.064s
|
结果是一个一个输出的，其实从程序执行的时间也可以推算出来，至于为什么，那就是因为get()导致阻塞的原因了。
上面说得其实思路是不太清晰，主要是因为对多进程的掌握是还不够多的，在这个探索的过程中，自己也是慢慢接触到了许多编程思想和方法，还有和操作系统相关的知识，往后深入学习后，如果有时间，会再完善一下。
时间： 2024-10-17 12:06:21
