python 高性能,python性能提升
Python一直被诟病执行速度慢,但不可否认的是,Python仍然是我们学习和工作中的一大利器。本文总结了有助于提高Python执行速度和优化其性能的15个技巧。有需要可以参考一下。
00-1010前言如何测量一个程序的执行时间1。使用map()映射函数2。使用set()查找交点3。使用sort()或sorted()对4进行排序。使用集合。计数器()到计数5。用列表推导出6。使用join()连接字符串7。用X,y=y,X交换变量8。使用while1而不是whileTrue9。使用装饰高速缓存10。减少使用点运算符(。) 11.使用for循环代替while循环12。使用Numba.jit加速计算13。使用Numpy对数组14进行矢量化。用于检查列表成员15。使用迭代器工具库迭代结论1。尽量使用内置库函数2。尽量使用优秀的第三方库。
目录
Python一直被诟病执行速度慢,但不可否认的是,Python仍然是我们学习和工作中的一大利器。所以,我们对Python又爱又恨。
本文总结了一些技巧,有助于提高Python执行速度,优化性能。以下技术都经过我验证,可以放心食用。
第一个结论:
使用map()映射函数,使用set()查找交集,使用sort()或sort()排序,使用集合。Counter()进行计数,使用list进行推导,使用join()连接字符串,使用X,y=y,X交换变量使用while 1代替while True使用decorator cache减少点运算符的使用(。)使用for循环代替while循环使用Numba.jit加速计算使用Numpy矢量化数组在检查列表中使用成员使用迭代器工具库进行迭代。
前言
至于Python如何精确测量程序的执行时间,这个问题看似简单实则复杂,因为程序的执行时间受多种因素影响,比如操作系统、Python版本以及相关硬件(CPU性能、内存读写速度)等。在同一台电脑上运行同一版本的语言,上述因素是一定的,但是程序的睡眠时间还是可变的,电脑上运行的其他程序也会干扰实验,所以严格来说这就是实验不能重复。
我学过的关于计时的两个代表性库是time和timeit。
其中time()、perf_counter()和process_time()三个函数可以用来计时(以秒为单位),后缀_ns的意思是以纳秒为单位计时(从Python3.7开始)。在此之前有一个clock()函数,但在Python3.3之后被移除了,以上三者的区别如下:
time()的精度没那么高,受系统影响,适合表示日期时间或者大型程序的计时。Perf_counter()适用于较小的程序测试,并将计算sleep()时间。Process_time()适用于较小的程序测试,不计算sleep()时间。
/ul>
与time
库相比,timeit
有两个优点:
timeit
会根据您的操作系统和 Python 版本选择最佳计时器。timeit
在计时期间会暂时禁用垃圾回收。
timeit.timeit(stmt='pass', setup='pass', timer=<default timer>, number=1000000, globals=None)
参数说明:
stmt='pass'
:需要计时的语句或者函数。setup='pass'
:执行stmt
之前要运行的代码。通常,它用于导入一些模块或声明一些必要的变量。timer=<default timer>
:计时器函数,默认为time.perf_counter()
。number=1000000
:执行计时语句的次数,默认为一百万次。globals=None
:指定执行代码的命名空间。
本文所有的计时均采用timeit
方法,且采用默认的执行次数一百万次。
为什么要执行一百万次呢?因为我们的测试程序很短,如果不执行这么多次的话,根本看不出差距。
1.使用map()进行函数映射
Exp1:将字符串数组中的小写字母转为大写字母。
测试数组为 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
newlist = []for word in oldlist:
newlist.append(word.upper())
方法二
list(map(str.upper, oldlist))
方法一耗时 0.5267724000000005s,方法二耗时 0.41462569999999843s,性能提升 21.29%
2.使用set()求交集
Exp2:求两个list
的交集。
测试数组:a = [1,2,3,4,5],b = [2,4,6,8,10]。
方法一
overlaps = []for x in a:
for y in b:
if x == y:
overlaps.append(x)
方法二
list(set(a) & set(b))
方法一耗时 0.9507264000000006s,方法二耗时 0.6148200999999993s,性能提升 35.33%
关于set()
的语法:、
&
、-
分别表示求并集、交集、差集。
3.使用sort()或sorted()排序
我们可以通过多种方式对序列进行排序,但其实自己编写排序算法的方法有些得不偿失。因为内置的 sort()
或 sorted()
方法已经足够优秀了,且利用参数key
可以实现不同的功能,非常灵活。二者的区别是sort()
方法仅被定义在list
中,而sorted()
是全局方法对所有的可迭代序列都有效。
Exp3:分别使用快排和sort()
方法对同一列表排序。
测试数组:lists = [2,1,4,3,0]。
方法一
def quick_sort(lists,i,j):if i >= j:
return list
pivot = lists[i]
low = i
high = j
while i < j:
while i < j and lists[j] >= pivot:
j -= 1
lists[i]=lists[j]
while i < j and lists[i] <=pivot:
i += 1
lists[j]=lists[i]
lists[j] = pivot
quick_sort(lists,low,i-1)
quick_sort(lists,i+1,high)
return lists
方法二
lists.sort()
方法一耗时 2.4796975000000003s,方法二耗时 0.05551999999999424s,性能提升 97.76%
顺带一提,sorted()
方法耗时 0.1339823999987857s。
可以看出,sort()
作为list
专属的排序方法还是很强的,sorted()
虽然比前者慢一点,但是胜在它不挑食,它对所有的可迭代序列都有效。
扩展:如何定义sort()
或sorted()
方法的key
1.通过lambda
定义
#学生:(姓名,成绩,年龄)students = [(john, A, 15),(jane, B, 12),(dave, B, 10)]
students.sort(key = lambda student: student[0]) #根据姓名排序
sorted(students, key = lambda student: student[0])
2.通过operator
定义
import operatorstudents = [(john, A, 15),(jane, B, 12),(dave, B, 10)]
students.sort(key=operator.itemgetter(0))
sorted(students, key = operator.itemgetter(1, 0)) #先对成绩排序,再对姓名排序
operator
的itemgetter()
适用于普通数组排序,attrgetter()
适用于对象数组排序
3.通过cmp_to_key()
定义,最为灵活
import functoolsdef cmp(a,b):
if a[1] != b[1]:
return -1 if a[1] < b[1] else 1 #先按照成绩升序排序
elif a[0] != b[0]:
return -1 if a[0] < b[0] else 1 #成绩相同,按照姓名升序排序
else:
return -1 if a[2] > b[2] else 1 #成绩姓名都相同,按照年龄降序排序
students = [(john, A, 15),(john, A, 14),(jane, B, 12),(dave, B, 10)]
sorted(students, key = functools.cmp_to_key(cmp))
4.使用collections.Counter()计数
Exp4:统计字符串中每个字符出现的次数。
测试数组:sentence='life is short, i choose python'。
方法一
counts = {}for char in sentence:
counts[char] = counts.get(char, 0) + 1
方法二
from collections import CounterCounter(sentence)
方法一耗时 2.8105250000000055s,方法二耗时 1.6317423000000062s,性能提升 41.94%
5.使用列表推导
列表推导(list comprehension)短小精悍。在小代码片段中,可能没有太大的区别。但是在大型开发中,它可以节省一些时间。
Exp5:对列表中的奇数求平方,偶数不变。
测试数组:oldlist = range(10)。
方法一
newlist = []for x in oldlist:
if x % 2 == 1:
newlist.append(x**2)
方法二
[x**2 for x in oldlist if x%2 == 1]
方法一耗时 1.5342976000000021s,方法二耗时 1.4181957999999923s,性能提升 7.57%
6.使用 join() 连接字符串
大多数人都习惯使用+
来连接字符串。但其实,这种方法非常低效。因为,+
操作在每一步中都会创建一个新字符串并复制旧字符串。更好的方法是用 join()
来连接字符串。关于字符串的其他操作,也尽量使用内置函数,如isalpha()
、isdigit()
、startswith()
、endswith()
等。
Exp6:将字符串列表中的元素连接起来。
测试数组:oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
sentence = ""for word in oldlist:
sentence += word
方法二
"".join(oldlist)
方法一耗时 0.27489080000000854s,方法二耗时 0.08166570000000206s,性能提升 70.29%
join
还有一个非常舒服的点,就是它可以指定连接的分隔符,举个例子
郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。