Python 性能问题一直饱受诟病,这篇我们讨论下提升 Python 应用性能的常见方法。 - V2EX
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
OneAPM

Python 性能问题一直饱受诟病,这篇我们讨论下提升 Python 应用性能的常见方法。

  •  4
     
  •   OneAPM
    oneapm May 22, 2015 6711 views
    This topic created in 4007 days ago, the information mentioned may be changed or developed.

    Python - 提高Python运行效率的六个窍门

    Alt text

    Python是一门优秀的语言,它能让你在短时间内通过极少量代码就能完成许多操作。不仅如此,它还轻松支持多任务处理,比如多进程。

    不喜欢Python的人经常会吐嘈Python运行太慢。但是,事实并非如此。尝试以下六个窍门,来为你的Python应用提速。

    窍门一:关键代码使用外部功能包

    Python简化了许多编程任务,但是对于一些时间敏感的任务,它的表现经常不尽人意。使用C/C++或机器语言的外部功能包处理时间敏感任务,可以有效提高应用的运行效率。这些功能包往往依附于特定的平台,因此你要根据自己所用的平台选择合适的功能包。简而言之,这个窍门要你牺牲应用的可移植性以换取只有通过对底层主机的直接编程才能获得的运行效率。以下是一些你可以选择用来提升效率的功能包:

    这些功能包的用处各有不同。比如说,使用C语言的数据类型,可以使涉及内存操作的任务更高效或者更直观。Pyrex就能帮助Python延展出这样的功能。Pylnline能使你在Python应用中直接使用C代码。内联代码是独立编译的,但是它把所有编译文件都保存在某处,并能充分利用C语言提供的高效率。

    门二:在排序时使用键

    Python含有许多古老的排序规则,这些规则在你创建定制的排序方法时会占用很多时间,而这些排序方法运行时也会拖延程序实际的运行速度。最佳的排序方法其实是尽可能多地使用键和内置的sort()方法。譬如,拿下面的代码来说:

    import operator somelist = [(1, 5, 8), (6, 2, 4), (9, 7, 5)] somelist.sort(key=operator.itemgetter(0)) somelist #Output = [(1, 5, 8), (6, 2, 4), (9, 7, 5)] somelist.sort(key=operator.itemgetter(1)) somelist #Output = [(6, 2, 4), (1, 5, 8), (9, 7, 5)] somelist.sort(key=operator.itemgetter(2)) somelist #Output = [(6, 2, 4), (9, 7, 5), (1, 5, 8)], 

    在每段例子里,list都是根据你选择的用作关键参数的索引进行排序的。这个方法不仅对数值类型有效,还同样适用于字符串类型。

    窍门三:针对循环的优化

    每一种编程语言都强调最优化的循环方案。当使用Python时,你可以借助丰富的技巧让循环程序跑得更快。然而,开发者们经常遗忘的一个技巧是:尽量避免在循环中访问变量的属性。譬如,拿下面的代码来说:

    lowerlist = ['this', 'is', 'lowercase'] upper = str.upper upperlist = [] append = upperlist.append for word in lowerlist: append(upper(word)) print(upperlist) #Output = ['THIS', 'IS', 'LOWERCASE'] 

    每次你调用str.upper, Python都会计算这个式子的值。然而,如果你把这个求值赋值给一个变量,那么求值的结果就能提前知道,Python程序就能运行得更快。因此,关键就是尽可能减小Python在循环中的工作量。因为Python解释执行的特性,在上面的例子中会大大减慢它的速度。

    (注意:优化循环的方法还有很多,这只是其中之一。比如,很多程序员会认为,列表推导式是提高循环速度的最佳方法。关键在于,优化循环方案是提高应用程序运行速度的上佳选择。)

    窍门四:使用较新的Python版本

    如果你在网上搜索Python,你会发现数不尽的信息都是关于如何升级Python版本。通常,每个版本的Python都会包含优化内容,使其运行速度优于之前的版本。但是,限制因素在于,你最喜欢的函数库有没有同步更新支持新的Python版本。与其争论函数库是否应该更新,关键在于新的Python版本是否足够高效来支持这一更新。

    你要保证自己的代码在新版本里还能运行。你需要使用新的函数库才能体验新的Python版本,然后你需要在做出关键性的改动时检查自己的应用。只有当你完成必要的修正之后,你才能体会新版本的不同。

    然而,如果你只是确保自己的应用在新版本中可以运行,你很可能会错过新版本提供的新特性。一旦你决定更新,请分析你的应用在新版本下的表现,并检查可能出问题的部分,然后优先针对这些部分应用新版本的特性。只有这样,用户才能在更新之初就觉察到应用性能的改观。

    窍门五:尝试多种编码方法

    每次创建应用时都使用同一种编码方法几乎无一例外会导致应用的运行效率不尽人意。可以在程序分析时尝试一些试验性的办法。譬如说,在处理字典中的数据项时,你既可以使用安全的方法,先确保数据项已经存在再进行更新,也可以直接对数据项进行更新,把不存在的数据项作为特例分开处理。请看下面第一段代码:

    n = 16 myDict = {} for i in range(0, n): char = 'abcd'[i%4] if char not in myDict: myDict[char] = 0 myDict[char] += 1 print(myDict) 

    当一开始myDict为空时,这段代码会跑得比较快。然而,通常情况下,myDict填满了数据,至少填有大部分数据,这时换另一种方法会更有效率。

    n = 16 myDict = {} for i in range(0, n): char = 'abcd'[i%4] try: myDict[char] += 1 except KeyError: myDict[char] = 1 print(myDict) 

    在两种方法中输出结果都是一样的。区别在于输出是如何获得的。跳出常规的思维模式,创建新的编程技巧能使你的应用更有效率。

    窍门六:交叉编译你的应用

    开发者有时会忘记计算机其实并不理解用来创建现代应用程序的编程语言。计算机理解的是机器语言。为了运行你的应用,你借助一个应用将你所编的人类可读的代码转换成机器可读的代码。有时,你用一种诸如Python这样的语言编写应用,再以C++这样的语言运行你的应用,这在运行的角度来说,是可行的。关键在于,你想你的应用完成什么事情,而你的主机系统能提供什么样的资源。

    Nuitka是一款有趣的交叉编译器,能将你的Python代码转化成C++代码。这样,你就可以在native模式下执行自己的应用,而无需依赖于解释器程序。你会发现自己的应用运行效率有了较大的提高,但是这会因平台和任务的差异而有所不同。

    (注意:Nuitka现在还处在测试阶段,所以在实际应用中请多加注意。实际上,当下最好还是把它用于实验。此外,关于交叉编译是否为提高运行效率的最佳方法还存在讨论的空间。开发者已经使用交叉编译多年,用来提高应用的速度。记住,每一种解决办法都有利有弊,在把它用于生产环境之前请仔细权衡。)

    在使用交叉编译器时,记得确保它支持你所用的Python版本。Nuitka支持Python2.6, 2.7, 3.2和3.3。为了让解决方案生效,你需要一个Python解释器和一个C++编译器。Nuitka支持许多C++编译器,其中包括Microsoft Visual Studio, MinGWClang/LLVM

    交叉编译可能造成一些严重问题。比如,在使用Nuitka时,你会发现即便是一个小程序也会消耗巨大的驱动空间。因为Nuitka借助一系列的动态链接库(DDLs)来执行Python的功能。因此,如果你用的是一个资源很有限的系统,这种方法或许不太可行。

    结论

    前文所述的六个窍门都能帮助你创建运行更有效率的Python应用。但是银弹是不存在的。上述的这些窍门不一定每次都能奏效。在特定的Python的版本下,有的窍门或许比其他的表现更好,但这有时候甚至取决于平台的差异。你需要总结分析你的应用,找到它效率低下的部分,然后尝试这些窍门,找到解决问题的最佳方法。

    本文系OneAPM工程师编译整理,想阅读更多技术文章,请访问OneAPM官方技术博客

    Alt text

    26 replies    2015-06-13 09:04:40 +08:00
    halmstad
        1
    halmstad  
       May 22, 2015
    pythOner=> pythonista
    est
        2
    est  
       May 22, 2015
    最关键的一条没说:函数调越少越好。
    startover
        3
    startover  
       May 22, 2015
    @halmstad pythonista是python高手(砖家)的意思...
    aec4d
        4
    aec4d  
       May 22, 2015
    用那么一个小示例来列举一下坑(python2)
    k = 0
    a = u''
    while k < 1000000:
    a += u'-'
    k += 1

    # print ''.join(u'-' for i in xrange(10000000))
    aec4d
        5
    aec4d  
       May 22, 2015
    哦 上面那个用for循环可以少几行代码
    loading
        6
    loading  
       May 22, 2015 via Android
    如果真的到性能问题,先加机器,然后换语言…
    我这里的瓶颈主要在数据库!
    shiznet
        7
    shiznet  
       May 22, 2015
    @loading 加机器简单粗暴有效。但是为什么会考虑到换语言呢?
    lyhapple
        8
    lyhapple  
       May 22, 2015
    谁能把GIL这货搞定, 我就天天膜拜他的画像!
    aisk
        9
    aisk  
       May 22, 2015
    我觉得最主要的一点是先确定自己的瓶颈真的是在语言上。
    zhyu
        10
    zhyu  
       May 22, 2015
    窍门三和五的缩进都有问题

    个人意见,窍门五用 dict.get() 或者 defaultdict 更方便
    sampeng
        11
    sampeng  
       May 22, 2015
    都成日经帖了。。。。
    这点性能问题,影响写代码的心情。。。有必要伐。。
    imn1
        12
    imn1  
       May 22, 2015
    @aec4d
    这个也不算坑,本来官方就建议用表达式取代循环,效率更高
    loading
        13
    loading  
       May 22, 2015 via Android
    @shiznet 对性能敏感部分用c语言等,重写。
    sumhat
        14
    sumhat  
       May 22, 2015
    不是 Python 程序员,但是对三和五可以提升性能表示怀疑。

    Python 虽然是解释型语言,但也有字节码(Byte code),Python VM 不会直接运行源代码文件。“三”中这种初级的优化应该可以自动做掉。

    Dict 的查询时间复杂度是 O(1) (Hash table),和数据规模没有直接关系,两种写法在性能上不会有明显差别。

    如果楼主不认同,请给出实验数据。
    WKPlus
        15
    WKPlus  
       May 22, 2015
    被标题骗进来了,文章配不上标题啊
    aec4d
        16
    aec4d  
       May 22, 2015
    @shiznet 你可以用python2试着运行一下,看能不能得出结果,我也不知道这算啥坑,用py3或者ascii虽然慢点但是能运行的~~
    a = u''
    for i in xrange(10000000):
    a += u'1'
    xylophone21
        17
    xylophone21  
       May 22, 2015
    你这么解释“交叉编译”的吗?
    caoyue
        18
    caoyue  
       May 22, 2015
    这六个「窍门」是怎么凑出来的……
    w359405949
        19
    w359405949  
       May 23, 2015
    @aec4d

    a = u"-" * 1000000
    aec4d
        20
    aec4d  
       May 23, 2015
    @w359405949 显然我不是想说明我不会生成这么长的字符串
    mathgl
        21
    mathgl  
       May 23, 2015 via Android
    感觉是很旧的文章了。pyrex这种早就没人用了。用pyrex还不如用cython。
    OneAPM
        22
    OneAPM  
    OP
       May 25, 2015
    @loading 用的mysql?
    omph
        23
    omph  
       May 26, 2015
    我都是这样写
    myDict[char] = myDict.get(char, 0) + 1
    cc7756789
        24
    cc7756789  
       May 26, 2015
    我觉得先把代码写出来,把系统数据库等优化好,才去考虑性能问题。
    OneAPM
        25
    OneAPM  
    OP
       May 26, 2015
    @cc7756789 是。
    musicx
        26
    musicx  
       Jun 13, 2015
    @sumhat 我在 mac 上试了三,确实有提升,我表示非常惊讶。。。你也可以试试,不排除这是我机器的个例。。。
    About     Help     Advertise     Blog     API     FAQ     Solana     1177 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 76ms UTC 23:15 PVG 07:15 LAX 16:15 JFK 19:15
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86