Python一路走来 线程 进程

Python线程

Threading用于提供线程相关的操作,线程是应用程序中工作的最小单元。


1

2

3

4

5

6

7

8

9

10

11

12

13

14

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import threading

import time

 

def show(arg):

    time.sleep(1)

    print ‘thread‘+str(arg)

 

for in range(10):

    = threading.Thread(target=show, args=(i,))

    t.start()

 

print ‘main thread stop‘

上述代码创建了10个“前台”线程,然后控制器就交给了CPU,CPU根据指定算法进行调度,分片执行指令。

更多方法:

  • start            线程准备就绪,等待CPU调度
  • setName      为线程设置名称
  • getName      获取线程名称
  • setDaemon   设置为后台线程或前台线程(默认)
                       如果是后台线程,主线程执行过程中,后台线程也在进行,主线程执行完毕后,后台线程不论成功与否,均停止
                        如果是前台线程,主线程执行过程中,前台线程也在进行,主线程执行完毕后,等待前台线程也执行完成后,程序停止
  • join              逐个执行每个线程,执行完毕后继续往下执行,该方法使得多线程变得无意义
  • run              线程被cpu调度后自动执行线程对象的run方法

 自定义线程类

线程锁(Lock、RLock)

由于线程之间是进行随机调度,并且每个线程可能只执行n条执行之后,当多个线程同时修改同一条数据时可能会出现脏数据,所以,出现了线程锁 - 同一时刻允许一个线程执行操作。

 未使用锁


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

#!/usr/bin/env python

#coding:utf-8

  

import threading

import time

  

gl_num = 0

  

lock = threading.RLock()

  

def Func():

    lock.acquire()

    global gl_num

    gl_num +=1

    time.sleep(1)

    print gl_num

    lock.release()

      

for in range(10):

    = threading.Thread(target=Func)

    t.start()

信号量(Semaphore)

互斥锁 同时只允许一个线程更改数据,而Semaphore是同时允许一定数量的线程更改数据 ,比如厕所有3个坑,那最多只允许3个人上厕所,后面的人只能等里面有人出来了才能再进去。


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

import threading,time

def run(n):

    semaphore.acquire()

    time.sleep(1)

    print("run the thread: %s" %n)

    semaphore.release()

if __name__ == ‘__main__‘:

    num= 0

    semaphore  = threading.BoundedSemaphore(5) #最多允许5个线程同时运行

    for in range(20):

        t = threading.Thread(target=run,args=(i,))

        t.start()

事件(event)

python线程的事件用于主线程控制其他线程的执行,事件主要提供了三个方法 set、wait、clear。

事件处理的机制:全局定义了一个“Flag”,如果“Flag”值为 False,那么当程序执行 event.wait 方法时就会阻塞,如果“Flag”值为True,那么event.wait 方法时便不再阻塞。

  • clear:将“Flag”设置为False
  • set:将“Flag”设置为True

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import threading

def do(event):

    print ‘start‘

    event.wait()

    print ‘execute‘

event_obj = threading.Event()

for in range(10):

    = threading.Thread(target=do, args=(event_obj,))

    t.start()

event_obj.clear()

inp = raw_input(‘input:‘)

if inp == ‘true‘:

    event_obj.set()

条件(Condition)

使得线程等待,只有满足某条件时,才释放n个线程


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

import threading

def run(n):

    con.acquire()

    con.wait()

    print("run the thread: %s" %n)

    con.release()

if __name__ == ‘__main__‘:

    con = threading.Condition()

    for in range(10):

        t = threading.Thread(target=run, args=(i,))

        t.start()

    while True:

        inp = input(‘>>>‘)

        if inp == ‘q‘:

            break

        con.acquire()

        con.notify(int(inp))

        con.release()

 

Timer

定时器,指定n秒后执行某操作


1

2

3

4

5

6

7

8

from threading import Timer

def hello():

    print("hello, world")

t = Timer(1, hello)

t.start()  # after 1 seconds, "hello, world" will be printed

Python 进程


1

2

3

4

5

6

7

8

9

10

from multiprocessing import Process

import threading

import time

 

def foo(i):

    print ‘say hi‘,i

 

for in range(10):

    = Process(target=foo,args=(i,))

    p.start()

注意:由于进程之间的数据需要各自持有一份,所以创建进程需要的非常大的开销。

进程数据共享

进程各自持有一份数据,默认无法共享数据

 进程间默认无法数据共享


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

#方法一,Array

from multiprocessing import Process,Array

temp = Array(‘i‘, [11,22,33,44])

def Foo(i):

    temp[i] = 100+i

    for item in temp:

        print i,‘----->‘,item

for in range(2):

    = Process(target=Foo,args=(i,))

    p.start()

#方法二:manage.dict()共享数据

from multiprocessing import Process,Manager

manage = Manager()

dic = manage.dict()

def Foo(i):

    dic[i] = 100+i

    print dic.values()

for in range(2):

    = Process(target=Foo,args=(i,))

    p.start()

    p.join()

 类型对应表

 Code

当创建进程时(非使用时),共享数据会被拿到子进程中,当进程中执行完毕后,再赋值给原值。

 进程锁实例

进程池

进程池内部维护一个进程序列,当使用时,则去进程池中获取一个进程,如果进程池序列中没有可供使用的进进程,那么程序就会等待,直到进程池中有可用进程为止。

进程池中有两个方法:

  • apply
  • apply_async

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

#!/usr/bin/env python

# -*- coding:utf-8 -*-

from  multiprocessing import Process,Pool

import time

 

def Foo(i):

    time.sleep(2)

    return i+100

 

def Bar(arg):

    print arg

 

pool = Pool(5)

#print pool.apply(Foo,(1,))

#print pool.apply_async(func =Foo, args=(1,)).get()

 

for in range(10):

    pool.apply_async(func=Foo, args=(i,),callback=Bar)

 

print ‘end‘

pool.close()

pool.join()#进程池中进程执行完毕后再关闭,如果注释,那么程序直接关闭。

协程

线程和进程的操作是由程序触发系统接口,最后的执行者是系统;协程的操作则是程序员。

协程存在的意义:对于多线程应用,CPU通过切片的方式来切换线程间的执行,线程切换时需要耗时(保存状态,下次继续)。协程,则只使用一个线程,在一个线程中规定某个代码块执行顺序。

协程的适用场景:当程序中存在大量不需要CPU的操作时(IO),适用于协程;

greenlet


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

#!/usr/bin/env python

# -*- coding:utf-8 -*-

from greenlet import greenlet

def test1():

    print 12

    gr2.switch()

    print 34

    gr2.switch()

def test2():

    print 56

    gr1.switch()

    print 78

gr1 = greenlet(test1)

gr2 = greenlet(test2)

gr1.switch()

gevent


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

import gevent

def foo():

    print(‘Running in foo‘)

    gevent.sleep(0)

    print(‘Explicit context switch to foo again‘)

def bar():

    print(‘Explicit context to bar‘)

    gevent.sleep(0)

    print(‘Implicit context switch back to bar‘)

gevent.joinall([

    gevent.spawn(foo),

    gevent.spawn(bar),

])

遇到IO操作自动切换:

 

时间: 2024-08-18 19:28:39

Python一路走来 线程 进程的相关文章

Python一路走来 RabbitMQ

一:介绍:(induction) Rabbitmq 是一个消息中间件.他的思想就是:接收和发送消息.你可以把它想成一个邮政局.当你把你的邮件发送到邮箱的,首先你需要确认的是:邮政员先生能把你的邮件发送给你想发送的地方.在这个比喻中,rabbitmq就是一个邮箱.一个邮政局.一个邮递员. 在这里rabbitmq和传统邮政局的区别:rabbitmq不处理信纸.取而代之的是:接收.储存.发送二进制数的消息. rabbitmq和消息用如下专业术语: 生产者意思发送.A程序发送消息被称为:producer

Python一路走来 - python基础 数据类型(一)

对于Python,一切事物都是对象,对象基于类创建 入门知识拾遗 一.作用域 对于变量的作用域,执行声明并在内存中存在,该变量就可以在下面的代码中使用. 1 2 3 if 1==1:     name = 'wupeiqi' print  name 下面的结论对吗? 外层变量,可以被内层变量使用 内层变量,无法被外层变量使用 二.三元运算 1 result = 值1 if 条件 else 值2 如果条件为真:result = 值1如果条件为假:result = 值2 三.进制 二进制,01 八进

Python 一路走来 HTML CSS Javascript

前端三把利器 HTML -标签 (成对写不容易忘记闭合) 自闭和标签 标签里写个 xx=xx, 表示标签的属性 <!— —> 注释 Head: Meta(metadata information) 提供有关页面的元信息,例:页面编码.刷新.跳转.针对搜索引擎和更新频度的描述和关键词 1. 页面编码(告诉浏览器是什么编码) < meta http-equiv=“content-type” content=“text/html;charset=utf-8”> <meta char

Python一路走来 Python算法

冒泡排序: 1,2位置左右比较.大的排右边,继续比较2,3 ...... 选择排序: 拿索引比较,最大的放在右边 插入排序: 永远维护着一个有序的列表

Python 一路走来 DOM &amp; Jquery

DOM 查找: 直接查找 间接查找 —getElementById —getElementsByTag 绑定事件 jQuery 模块, 封装Dom和javascript 1.12..—>兼容IE 2.x —>IE9以上 查找: 选择器 #id 标签 类 组合 层级 属性(important) 筛选器 操作: css 属性 文本操作 事件: -优化 扩展: $.login Form表单验证 Ajax:

15.python并发编程(线程--进程--协程)

一.进程:1.定义:进程最小的资源单位,本质就是一个程序在一个数据集上的一次动态执行(运行)的过程2.组成:进程一般由程序,数据集,进程控制三部分组成:(1)程序:用来描述进程要完成哪些功能以及如何完成(2)数据集:是程序在执行过程中所需要使用的一切资源(3)进程控制块:用来记录进程外部特征,描述进程的执行变化过程,系统可以利用它来控制和管理进程,它是系统感知进程存在的唯一标志.3.进程的作用:是想完成多任务并发,进程之间的内存地址是相互独立的二.线程:1.定义:最小的执行单位,线程的出现是为了

python网络编程基础(线程与进程、并行与并发、同步与异步)

python网络编程基础(线程与进程.并行与并发.同步与异步) 目录 线程与进程 并行与并发 同步与异步 线程与进程 进程 前言 进程的出现是为了更好的利用CPU资源使到并发成为可能. 假设有两个任务A和B,当A遇到IO操作,CPU默默的等待任务A读取完操作再去执行任务B,这样无疑是对CPU资源的极大的浪费.聪明的老大们就在想若在任务A读取数据时,让任务B执行,当任务A读取完数据后,再切换到任务A执行.注意关键字切换,自然是切换,那么这就涉及到了状态的保存,状态的恢复,加上任务A与任务B所需要的

python语法基础-并发编程-进程-长期维护

###############    进程的启动方式1    ############## """ 并发编程: 进程 1,运行中的程序,就是进程,程序是没有生命的实体,运行起来了就有生命了, 操作系统可以管理进程,进程是操作系统基本的执行单元, 2,每一个进程都有它自己的地址空间,进程之间是不会混的,比如qq不能访问微信的地址空间, 操作系统替你隔离开了,这也是操作系统引入进程这个概念的原因, ####################################### 进

线程 进程 多线程 多进程

进程和线程的主要区别在于多进程每个进程拥有独立存储空间,而多线程共享存储空间.对于单核CPU来讲,如果是阻塞操作,或者不耗时非阻塞操作,多进程/线程不会提高效率,这时候多进程/线程最有用的通常是耗时而又非阻塞的I/O操作. 打个比喻,一个人要看两部电影,可以看完一部再看另一部,也可以同时看,看一眼这个暂停,看一眼那个再暂停看回前一个,快速不停切换,你会觉得因为两部一起看所以先看完吗?理论上两部电影播放时间加起来是一样,所以看完所用时间应该一样.但是实际使用时间反而可能第一种方法快,为什么?切换是