天下武功,唯快不破。
編程也不例外,你的代碼跑的快,你能快速找出代碼慢的原因,你的碼功就高。
今天分享一個(gè)超級(jí)實(shí)用的 Python 性能分析工具 pyinstrument ,可以快速找到代碼運(yùn)行最慢的部分,幫助提高代碼的性能。支持 Python 3.7+ 且能夠分析異步代碼,僅需一條命令即可顯示具體代碼的耗時(shí)。經(jīng)常寫(xiě) Python 的小伙伴一定要用一下。
安裝
pipinstallpyinstrument
簡(jiǎn)單的使用
在程序的開(kāi)始,啟動(dòng) pyinstrument 的 Profiler,結(jié)束時(shí)關(guān)閉 Profiler 并打印分析結(jié)果如下:
frompyinstrumentimportProfiler
profiler=Profiler()
profiler.start()
#這里是你要分析的代碼
profiler.stop()
profiler.print()
比如這段代碼 123.py,我們可以清楚的看到是列表推導(dǎo)式比較慢:
frompyinstrumentimportProfiler
profiler=Profiler()
profiler.start()
#這里是你要分析的代碼
a=[iforiinrange(100000)]
b=(iforiinrange(100000))
profiler.stop()
profiler.print()
上述分析需要修改源代碼,如果你使用命令行工具,就不需要修改源代碼,只需要執(zhí)行 pyinstrument xxxx.py
即可:
比如有這樣一段排序的程序 c_sort.py:
importsys
importtime
importnumpyasnp
arr=np.random.randint(0,10,10)
defslow_key(el):
time.sleep(0.01)
returnel
arr=list(arr)
foriinrange(10):
arr.sort(key=slow_key)
print(arr)
這段代碼里面故意放了一句 time.sleep(0.01) 來(lái)延遲性能,看看 pyinstrument
能否識(shí)別,命令行執(zhí)行 pyinstrument c_sort.py
:
從結(jié)果來(lái)看,程序運(yùn)行了 1.313 秒,而 sleep 就運(yùn)行了 1.219 秒,很明顯是瓶頸,現(xiàn)在我們把它刪除,再看看結(jié)果:
刪除之后,性能最慢的就是 numpy 模塊的初始化代碼 __init__.py
了,不過(guò)這些代碼不是自己寫(xiě)的,而且并不是特別慢,就不需要去關(guān)心了。
分析 Flask 代碼
Web 應(yīng)用也可以使用這個(gè)來(lái)找出性能瓶頸,比如 flask,只需要在請(qǐng)求之前記錄時(shí)間,在請(qǐng)求之后統(tǒng)計(jì)時(shí)間,只需要在 flask 的請(qǐng)求攔截器里面這樣寫(xiě):
fromflaskimportFlask,g,make_response,request
app=Flask(__name__)
@app.before_request
defbefore_request():
if"profile"inrequest.args:
g.profiler=Profiler()
g.profiler.start()
@app.after_request
defafter_request(response):
ifnothasattr(g,"profiler"):
returnresponse
g.profiler.stop()
output_html=g.profiler.output_html()
returnmake_response(output_html)
假如有這樣一個(gè) API:
@app.route("/dosomething")
defdo_something():
importrequests
requests.get("http://google.com")
return"Googlesayshello!"
為了測(cè)試這個(gè) API 的瓶頸,我們可以在 url 上加一個(gè)參數(shù) profile 就可以:http://127.0.0.1:5000/dosomething?profile
,哪一行代碼執(zhí)行比較慢,結(jié)果清晰可見(jiàn):
分析 Django 代碼
分析 Django 代碼也非常簡(jiǎn)單,只需要在 Django 的配置文件的 MIDDLEWARE 中添加
"pyinstrument.middleware.ProfilerMiddleware",
然后就可以在 url 上加一個(gè)參數(shù) profile 就可以:
如果你不希望所有人都能看到,只希望管理員可以看到,settings.py 可以添加這樣的代碼:
defcustom_show_pyinstrument(request):
returnrequest.user.is_superuser
PYINSTRUMENT_SHOW_CALLBACK="%s.custom_show_pyinstrument"%__name__
如果不想通過(guò) url 后面加參數(shù)的方式查看性能分析,可以在 settings.py 文件中添加:
PYINSTRUMENT_PROFILE_DIR='profiles'
這樣,每次訪問(wèn)一次 Django 接口,就會(huì)將分析結(jié)果以 html 文件形式保存在 項(xiàng)目目錄下的 profiles 文件夾中。
分析異步代碼
簡(jiǎn)單的異步代碼分析:
async_example_simple.py:
importasyncio
frompyinstrumentimportProfiler
asyncdefmain():
p=Profiler()
withp:
print("Hello...")
awaitasyncio.sleep(1)
print("...World!")
p.print()
asyncio.run(main())
復(fù)雜一些的異步代碼分析:
importasyncio
importtime
importpyinstrument
defdo_nothing():
pass
defbusy_wait(duration):
end_time=time.time()+duration
whiletime.time()ifprofile:
p=pyinstrument.Profiler()
p.start()
busy_wait(0.1)
sleep_start=time.time()
awaitasyncio.sleep(when)
print(f"sleptfor{time.time()-sleep_start:.3f}seconds")
busy_wait(0.1)
print(what)
ifprofile:
p.stop()
p.print(show_all=True)
loop=asyncio.get_event_loop()
loop.create_task(say("firsthello",2,profile=True))
loop.create_task(say("secondhello",1,profile=True))
loop.create_task(say("thirdhello",3,profile=True))
loop.run_forever()
loop.close()
工作原理
Pyinstrument 每 1ms 中斷一次程序,并在該點(diǎn)記錄整個(gè)堆棧。它使用 C 擴(kuò)展名和 PyEval_SetProfile 來(lái)做到這一點(diǎn),但只每 1 毫秒讀取一次讀數(shù)。你可能覺(jué)得報(bào)告的樣本數(shù)量有點(diǎn)少,但別擔(dān)心,它不會(huì)降低準(zhǔn)確性。默認(rèn)間隔 1ms 是記錄堆棧幀的下限,但如果在單個(gè)函數(shù)調(diào)用中花費(fèi)了很長(zhǎng)時(shí)間,則會(huì)在該調(diào)用結(jié)束時(shí)進(jìn)行記錄。如此有效地將這些樣本“打包”并在最后記錄。
Pyinstrument 是一個(gè)統(tǒng)計(jì)分析器,并不跟蹤,它不會(huì)跟蹤您的程序進(jìn)行的每個(gè)函數(shù)調(diào)用。相反,它每 1 毫秒記錄一次調(diào)用堆棧。與其他分析器相比,統(tǒng)計(jì)分析器的開(kāi)銷(xiāo)比跟蹤分析器低得多。
比如說(shuō),我想弄清楚為什么 Django 中的 Web 請(qǐng)求很慢。如果我使用 cProfile,我可能會(huì)得到這個(gè):
151940functioncalls(147672primitivecalls)in1.696seconds
Orderedby:cumulativetime
ncallstottimepercallcumtimepercallfilename:lineno(function)
10.0000.0001.6961.696profile:0(at0x1053d6a30,file"./manage.py",line2>)
10.0010.0011.6931.693manage.py:2()
10.0000.0001.5861.586__init__.py:394(execute_from_command_line)
10.0000.0001.5861.586__init__.py:350(execute)
10.0000.0001.1421.142__init__.py:254(fetch_command)
430.0130.0001.1240.026__init__.py:1()
3880.0080.0001.0620.003re.py:226(_compile)
1580.0050.0001.0480.007sre_compile.py:496(compile)
10.0010.0011.0421.042__init__.py:78(get_commands)
1530.0010.0001.0360.007re.py:188(compile)
106/1020.0010.0001.0300.010__init__.py:52(__getattr__)
10.0000.0001.0291.029__init__.py:31(_setup)
10.0000.0001.0211.021__init__.py:57(_configure_logging)
20.0020.0011.0110.505log.py:1()
看完是不是還是一臉懵逼,通常很難理解您自己的代碼如何與這些跟蹤相關(guān)聯(lián)。Pyinstrument 記錄整個(gè)堆棧,因此跟蹤昂貴的調(diào)用要容易得多。它還默認(rèn)隱藏庫(kù)框架,讓您專注于影響性能的應(yīng)用程序/模塊:
_.___/_______/_Recorded:1435Samples:131
/_//_////_///_/////_'///Duration:3.131CPUtime:0.195
/_/v3.0.0b3
Program:examples/django_example/manage.pyrunserver--nothreading--noreload
3.131manage.py:2
└─3.118execute_from_command_linedjango/core/management/__init__.py:378
[473frameshidden]django,socketserver,selectors,wsgi...
2.836selectselectors.py:365
0.126_get_responsedjango/core/handlers/base.py:96
└─0.126hello_worlddjango_example/views.py:4
最后的話
本文分享了 pyinstrument 的用法,有了這個(gè)性能分析神器,以后優(yōu)化代碼可以節(jié)省很多時(shí)間了,這樣的效率神器很值得分享,畢竟人生苦短,能多點(diǎn)時(shí)間干點(diǎn)有意思的不香么?
責(zé)任編輯:haq
-
編程
+關(guān)注
關(guān)注
88文章
3630瀏覽量
93831 -
代碼
+關(guān)注
關(guān)注
30文章
4803瀏覽量
68777
原文標(biāo)題:效率神器:快速定位運(yùn)行最慢的代碼
文章出處:【微信號(hào):LinuxHub,微信公眾號(hào):Linux愛(ài)好者】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論