Python是一门优秀的语言,它能让你在短时间内通过极少量代码就能完成许多操作。不仅如此,它还轻松支持多任务处理,比如多进程。
不喜欢Python的人经常会吐嘈Python运行太慢。但是,事实并非如此。尝试以下六个窍门,来为你的Python应用提速。
Python简化了许多编程任务,但是对于一些时间敏感的任务,它的表现经常不尽人意。使用C/C++或机器语言的外部功能包处理时间敏感任务,可以有效提高应用的运行效率。这些功能包往往依附于特定的平台,因此你要根据自己所用的平台选择合适的功能包。简而言之,这个窍门要你牺牲应用的可移植性以换取只有通过对底层主机的直接编程才能获得的运行效率。以下是一些你可以选择用来提升效率的功能包:
这些功能包的用处各有不同。比如说,使用C语言的数据类型,可以使涉及内存操作的任务更高效或者更直观。Pyrex就能帮助Python延展出这样的功能。Pylnline能使你在Python应用中直接使用C代码。内联代码是独立编译的,但是它把所有编译文件都保存在某处,并能充分利用C语言提供的高效率。
Python含有许多古老的排序规则,这些规则在你创建定制的排序方法时会占用很多时间,而这些排序方法运行时也会拖延程序实际的运行速度。最佳的排序方法其实是尽可能多地使用键和内置的sort()方法。譬如,拿下面的代码来说:
import operator
somelist = [(1, 5, 8), (6, 2, 4), (9, 7, 5)]
somelist.sort(key=operator.itemgetter(0))
somelist
#Output = [(1, 5, 8), (6, 2, 4), (9, 7, 5)]
somelist.sort(key=operator.itemgetter(1))
somelist
#Output = [(6, 2, 4), (1, 5, 8), (9, 7, 5)]
somelist.sort(key=operator.itemgetter(2))
somelist
#Output = [(6, 2, 4), (9, 7, 5), (1, 5, 8)],
在每段例子里,list都是根据你选择的用作关键参数的索引进行排序的。这个方法不仅对数值类型有效,还同样适用于字符串类型。
每一种编程语言都强调最优化的循环方案。当使用Python时,你可以借助丰富的技巧让循环程序跑得更快。然而,开发者们经常遗忘的一个技巧是:尽量避免在循环中访问变量的属性。譬如,拿下面的代码来说:
lowerlist = ['this', 'is', 'lowercase']
upper = str.upper
upperlist = []
append = upperlist.append
for word in lowerlist:
append(upper(word))
print(upperlist)
#Output = ['THIS', 'IS', 'LOWERCASE']
每次你调用str.upper, Python都会计算这个式子的值。然而,如果你把这个求值赋值给一个变量,那么求值的结果就能提前知道,Python程序就能运行得更快。因此,关键就是尽可能减小Python在循环中的工作量。因为Python解释执行的特性,在上面的例子中会大大减慢它的速度。
(注意:优化循环的方法还有很多,这只是其中之一。比如,很多程序员会认为,列表推导式是提高循环速度的最佳方法。关键在于,优化循环方案是提高应用程序运行速度的上佳选择。)
如果你在网上搜索Python,你会发现数不尽的信息都是关于如何升级Python版本。通常,每个版本的Python都会包含优化内容,使其运行速度优于之前的版本。但是,限制因素在于,你最喜欢的函数库有没有同步更新支持新的Python版本。与其争论函数库是否应该更新,关键在于新的Python版本是否足够高效来支持这一更新。
你要保证自己的代码在新版本里还能运行。你需要使用新的函数库才能体验新的Python版本,然后你需要在做出关键性的改动时检查自己的应用。只有当你完成必要的修正之后,你才能体会新版本的不同。
然而,如果你只是确保自己的应用在新版本中可以运行,你很可能会错过新版本提供的新特性。一旦你决定更新,请分析你的应用在新版本下的表现,并检查可能出问题的部分,然后优先针对这些部分应用新版本的特性。只有这样,用户才能在更新之初就觉察到应用性能的改观。
每次创建应用时都使用同一种编码方法几乎无一例外会导致应用的运行效率不尽人意。可以在程序分析时尝试一些试验性的办法。譬如说,在处理字典中的数据项时,你既可以使用安全的方法,先确保数据项已经存在再进行更新,也可以直接对数据项进行更新,把不存在的数据项作为特例分开处理。请看下面第一段代码:
n = 16
myDict = {}
for i in range(0, n):
char = 'abcd'[i%4]
if char not in myDict:
myDict[char] = 0
myDict[char] += 1
print(myDict)
当一开始myDict为空时,这段代码会跑得比较快。然而,通常情况下,myDict填满了数据,至少填有大部分数据,这时换另一种方法会更有效率。
n = 16
myDict = {}
for i in range(0, n):
char = 'abcd'[i%4]
try:
myDict[char] += 1
except KeyError:
myDict[char] = 1
print(myDict)
在两种方法中输出结果都是一样的。区别在于输出是如何获得的。跳出常规的思维模式,创建新的编程技巧能使你的应用更有效率。
开发者有时会忘记计算机其实并不理解用来创建现代应用程序的编程语言。计算机理解的是机器语言。为了运行你的应用,你借助一个应用将你所编的人类可读的代码转换成机器可读的代码。有时,你用一种诸如Python这样的语言编写应用,再以C++这样的语言运行你的应用,这在运行的角度来说,是可行的。关键在于,你想你的应用完成什么事情,而你的主机系统能提供什么样的资源。
Nuitka是一款有趣的交叉编译器,能将你的Python代码转化成C++代码。这样,你就可以在native模式下执行自己的应用,而无需依赖于解释器程序。你会发现自己的应用运行效率有了较大的提高,但是这会因平台和任务的差异而有所不同。
(注意:Nuitka现在还处在测试阶段,所以在实际应用中请多加注意。实际上,当下最好还是把它用于实验。此外,关于交叉编译是否为提高运行效率的最佳方法还存在讨论的空间。开发者已经使用交叉编译多年,用来提高应用的速度。记住,每一种解决办法都有利有弊,在把它用于生产环境之前请仔细权衡。)
在使用交叉编译器时,记得确保它支持你所用的Python版本。Nuitka支持Python2.6, 2.7, 3.2和3.3。为了让解决方案生效,你需要一个Python解释器和一个C++编译器。Nuitka支持许多C++编译器,其中包括Microsoft Visual Studio, MinGW 和 Clang/LLVM。
交叉编译可能造成一些严重问题。比如,在使用Nuitka时,你会发现即便是一个小程序也会消耗巨大的驱动空间。因为Nuitka借助一系列的动态链接库(DDLs)来执行Python的功能。因此,如果你用的是一个资源很有限的系统,这种方法或许不太可行。
前文所述的六个窍门都能帮助你创建运行更有效率的Python应用。但是银弹是不存在的。上述的这些窍门不一定每次都能奏效。在特定的Python的版本下,有的窍门或许比其他的表现更好,但这有时候甚至取决于平台的差异。你需要总结分析你的应用,找到它效率低下的部分,然后尝试这些窍门,找到解决问题的最佳方法。
1
halmstad 2015-05-22 14:09:51 +08:00
pythoner => pythonista
|
2
est 2015-05-22 14:14:00 +08:00
最关键的一条没说:函数调越少越好。
|
4
aec4d 2015-05-22 14:33:28 +08:00
用那么一个小示例来列举一下坑(python2)
k = 0 a = u'' while k < 1000000: a += u'-' k += 1 # print ''.join(u'-' for i in xrange(10000000)) |
5
aec4d 2015-05-22 14:36:01 +08:00
哦 上面那个用for循环可以少几行代码
|
6
loading 2015-05-22 14:39:07 +08:00 via Android
如果真的到性能问题,先加机器,然后换语言…
我这里的瓶颈主要在数据库! |
8
lyhapple 2015-05-22 15:17:39 +08:00
谁能把GIL这货搞定, 我就天天膜拜他的画像!
|
9
aisk 2015-05-22 16:04:54 +08:00
我觉得最主要的一点是先确定自己的瓶颈真的是在语言上。
|
10
zhyu 2015-05-22 16:22:13 +08:00
窍门三和五的缩进都有问题
个人意见,窍门五用 dict.get() 或者 defaultdict 更方便 |
11
sampeng 2015-05-22 16:25:40 +08:00
都成日经帖了。。。。
这点性能问题,影响写代码的心情。。。有必要伐。。 |
14
sumhat 2015-05-22 16:33:49 +08:00
不是 Python 程序员,但是对三和五可以提升性能表示怀疑。
Python 虽然是解释型语言,但也有字节码(Byte code),Python VM 不会直接运行源代码文件。“三”中这种初级的优化应该可以自动做掉。 Dict 的查询时间复杂度是 O(1) (Hash table),和数据规模没有直接关系,两种写法在性能上不会有明显差别。 如果楼主不认同,请给出实验数据。 |
15
WKPlus 2015-05-22 16:51:39 +08:00
被标题骗进来了,文章配不上标题啊
|
16
aec4d 2015-05-22 16:57:17 +08:00
@shiznet 你可以用python2试着运行一下,看能不能得出结果,我也不知道这算啥坑,用py3或者ascii虽然慢点但是能运行的~~
a = u'' for i in xrange(10000000): a += u'1' |
17
xylophone21 2015-05-22 17:31:50 +08:00
你这么解释“交叉编译”的吗?
|
18
caoyue 2015-05-22 18:10:49 +08:00
这六个「窍门」是怎么凑出来的……
|
19
w359405949 2015-05-23 13:51:03 +08:00
|
20
aec4d 2015-05-23 14:24:54 +08:00
@w359405949 显然我不是想说明我不会生成这么长的字符串
|
21
mathgl 2015-05-23 14:26:13 +08:00 via Android
感觉是很旧的文章了。pyrex这种早就没人用了。用pyrex还不如用cython。
|
23
omph 2015-05-26 09:49:13 +08:00
我都是这样写
myDict[char] = myDict.get(char, 0) + 1 |
24
cc7756789 2015-05-26 10:36:32 +08:00
我觉得先把代码写出来,把系统数据库等优化好,才去考虑性能问题。
|