python中gil锁和线程锁,
本文主要介绍了Cpython的GIL解释器锁的工作机制,并对其进行了详细说明。有需要的朋友可以借鉴一下,希望能有所帮助。祝大家进步很大,早日升职加薪。
00-1010本节重点介绍三个Gil和锁四个Gil以及多线程五个多线程的性能测试。
目录
掌握Cpython的GIL解释器锁的工作机制,掌握GIL和互斥锁,掌握Cpython下多线程和多进程各自的应用场景。本节时长应控制在45分钟以内。
本节重点
定义:
在CPython中,全局解释器锁(或称GIL)是一个互斥体,可以防止多个
本机线程立即执行Python字节码。这个锁主要是必要的
因为CPython的内存管理不是线程安全的。(然而,自从GIL
存在,其他功能也依赖于它所实施的保证。)
结论:在Cpython解释器中,同一个进程中启动的多线程在同一时间只能由一个线程执行,因此无法利用多核的优势。
首先要明确,GIL不是Python的一个特性,而是在实现Python parser (CPython)时引入的概念。就像C是一套语言(语法)标准,但是可以被不同的编译器编译成可执行代码。
GCC、INTEL C、Visual C等知名编译器。Python也是如此。同一段代码可以由不同的Python执行环境执行,比如CPython、PyPy、Psyco等。
没有像JPython这样的GIL。然而,在大多数环境中,CPython是默认的Python执行环境。
所以在很多人的概念里,CPython就是Python,所以很自然的把GIL归结于Python语言的缺陷。
所以这里先明确一点:GIL不是Python的特性,Python可以完全独立于GIL。
一 引子
GIL本质上是一个互斥体。既然是互斥,那么所有的互斥本质上都是一样的,就是把并发操作变成串行,从而控制共享数据在同一时刻只能被一个任务修改,保证了数据的安全性。
有一点是肯定的:为了保护不同数据的安全,应该添加不同的锁。
要理解GIL,首先要确保每次执行python程序时,都会生成一个独立的进程。比如python test.py、python aaa.py、python bbb.py会产生三种不同的python流程。
验证python test.py只会产生一个进程。
#test.py内容
导入操作系统,时间
print(os.getpid())
时间.睡眠(1000)
#打开终端执行
python3 test.py
#在windows下查看
任务列表findstr python
#在linux下查看
ps aux grep python
在一个python进程中,不仅有test.py的主线程或者主线程打开的其他线程,还有解释器打开的垃圾收集等解释器级线程。简而言之,所有线程都在这个过程中运行,毫无疑问。
1.所有的数据都是共享的,其中,代码作为一种数据也是所有线程共享的(test.py的所有代码,Cpython解释器的所有代码)。
比如test.py定义了一个函数work(代码内容如下图所示)。进程中的所有线程都可以访问工作代码,所以我们可以打开三个线程,然后将所有点都指向代码。可访问意味着可执行。
2.所有线程的任务都需要将任务的代码作为参数传递给解释器的代码来执行,也就是说,如果所有线程都想运行自己的任务,首先需要解决的就是能够访问解释器的代码。
总而言之:
如果target=work多线程=work,那么执行过程是
多个线程先访问到解释器的代码,即拿到执行权限,然后将target的代码交给解释器的代码去执行
解释器的代码是所有线程共享的,所以垃圾回收线程也可能访问到解释器的代码而去执行,这就导致了一个问题:对于同一个数据100,可能线程1执行x=100的同时,而垃圾回收执行的是回收100的操作,解决这种问题没有什么高明的方法,就是加锁处理,如下图的GIL,保证python解释器同一时间只能执行一个任务的代码
三 GIL与Lock
机智的同学可能会问到这个问题:Python已经有一个GIL来保证同一时间只能有一个线程来执行了,为什么这里还需要lock?
首先,我们需要达成共识:锁的目的是为了保护共享的数据,同一时间只能有一个线程来修改共享的数据
然后,我们可以得出结论:保护不同的数据就应该加不同的锁。
最后,问题就很明朗了,GIL 与Lock是两把锁,保护的数据不一样,前者是解释器级别的(当然保护的就是解释器级别的数据,比如垃圾回收的数据),后者是保护用户自己开发的应用程序的数据,很明显GIL不负责这件事,只能用户自定义加锁处理,即Lock,如下图
分析:
1、100个线程去抢GIL锁,即抢执行权限
2、肯定有一个线程先抢到GIL(暂且称为线程1),然后开始执行,一旦执行就会拿到lock.acquire()
3、极有可能线程1还未运行完毕,就有另外一个线程2抢到GIL,然后开始运行,但线程2发现互斥锁lock还未被线程1释放,于是阻塞,被迫交出执行权限,即释放GIL
4、直到线程1重新抢到GIL,开始从上次暂停的位置继续执行,直到正常释放互斥锁lock,然后其他的线程再重复2 3 4的过程
代码示范
from threading import Thread,Lockimport os,time
def work():
global n
lock.acquire()
temp=n
time.sleep(0.1)
n=temp-1
lock.release()
if __name__ == __main__:
lock=Lock()
n=100
l=[]
for i in range(100):
p=Thread(target=work)
l.append(p)
p.start()
for p in l:
p.join()
print(n) #结果肯定为0,由原来的并发执行变成串行,牺牲了执行效率保证了数据安全,不加锁则结果可能为99
四 GIL与多线程
有了GIL的存在,同一时刻同一进程中只有一个线程被执行
听到这里,有的同学立马质问:进程可以利用多核,但是开销大,而python的多线程开销小,但却无法利用多核优势,也就是说python没用了,php才是最牛逼的语言?
别着急啊,老娘还没讲完呢。
要解决这个问题,我们需要在几个点上达成一致:
1、cpu到底是用来做计算的,还是用来做I/O的?
2、多cpu,意味着可以有多个核并行完成计算,所以多核提升的是计算性能
3、每个cpu一旦遇到I/O阻塞,仍然需要等待,所以多核对I/O操作没什么用处
一个工人相当于cpu,此时计算相当于工人在干活,I/O阻塞相当于为工人干活提供所需原材料的过程,工人干活的过程中如果没有原材料了,则工人干活的过程需要停止,直到等待原材料的到来。
如果你的工厂干的大多数任务都要有准备原材料的过程(I/O密集型),那么你有再多的工人,意义也不大,还不如一个人,在等材料的过程中让工人去干别的活,
反过来讲,如果你的工厂原材料都齐全,那当然是工人越多,效率越高
结论:
1、对计算来说,cpu越多越好,但是对于I/O来说,再多的cpu也没用
2、当然对运行一个程序来说,随着cpu的增多执行效率肯定会有所提高(不管提高幅度多大,总会有所提高),这是因为一个程序基本上不会是纯计算或者纯I/O,所以我们只能相对的去看一个程序到底是计算密集型还是I/O密集型,从而进一步分析python的多线程到底有无用武之地
假设我们有四个任务需要处理,处理方式肯定是要玩出并发的效果,解决方案可以是:
方案一:开启四个进程
方案二:一个进程下,开启四个线程
- 单核情况下,分析结果:
如果四个任务是计算密集型,没有多核来并行计算,方案一徒增了创建进程的开销,方案二胜
如果四个任务是I/O密集型,方案一创建进程的开销大,且进程的切换速度远不如线程,方案二胜
- 多核情况下,分析结果:
如果四个任务是计算密集型,多核意味着并行计算,在python中一个进程中同一时刻只有一个线程执行用不上多核,方案一胜
如果四个任务是I/O密集型,再多的核也解决不了I/O问题,方案二胜
结论:
现在的计算机基本上都是多核,python对于计算密集型的任务开多线程的效率并不能带来多大性能上的提升,甚至不如串行(没有大量切换),但是,对于IO密集型的任务效率还是有显著提升的。
五 多线程性能测试
如果并发的多个任务是计算密集型:多进程效率高
from multiprocessing import Processfrom threading import Thread
import os,time
def work():
res=0
for i in range(100000000):
res*=i
if __name__ == __main__:
l=[]
print(os.cpu_count()) #本机为4核
start=time.time()
for i in range(4):
p=Process(target=work) #耗时5s多
p=Thread(target=work) #耗时18s多
l.append(p)
p.start()
for p in l:
p.join()
stop=time.time()
print(run time is %s %(stop-start))
如果并发的多个任务是I/O密集型:多线程效率高
from multiprocessing import Processfrom threading import Thread
import threading
import os,time
def work():
time.sleep(2)
print(===>)
if __name__ == __main__:
l=[]
print(os.cpu_count()) #本机为4核
start=time.time()
for i in range(400):
# p=Process(target=work) #耗时12s多,大部分时间耗费在创建进程上
p=Thread(target=work) #耗时2s多
l.append(p)
p.start()
for p in l:
p.join()
stop=time.time()
print(run time is %s %(stop-start))
应用:
多线程用于IO密集型,如socket,爬虫,web
多进程用于计算密集型,如金融分析
以上就是Python解析器Cpython的GIL解释器锁工作机制的详细内容,更多关于Python Cpython解释器锁GIL的资料请关注盛行IT软件开发工作室其它相关文章!
郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。