一、協(xié)程
1.1 協(xié)程的概念
協(xié)程,又稱微線程,纖程。英文名Coroutine。一句話說(shuō)明什么是線程:協(xié)程是一種用戶態(tài)的輕量級(jí)線程。(其實(shí)并沒(méi)有說(shuō)明白~)那么這么來(lái)理解協(xié)程比較容易:
線程是系統(tǒng)級(jí)別的,它們是由操作系統(tǒng)調(diào)度;協(xié)程是程序級(jí)別的,由程序員根據(jù)需要自己調(diào)度。我們把一個(gè)線程中的一個(gè)個(gè)函數(shù)叫做子程序,那么子程序在執(zhí)行過(guò)程中可以中斷去執(zhí)行別的子程序;別的子程序也可以中斷回來(lái)繼續(xù)執(zhí)行之前的子程序,這就是協(xié)程。也就是說(shuō)同一線程下的一段代碼執(zhí)行著執(zhí)行著就可以中斷,然后跳去執(zhí)行另一段代碼,當(dāng)再次回來(lái)執(zhí)行代碼塊的時(shí)候,接著從之前中斷的地方開(kāi)始執(zhí)行。
比較專業(yè)的理解是:協(xié)程擁有自己的寄存器上下文和棧。協(xié)程調(diào)度切換時(shí),將寄存器上下文和棧保存到其他地方,在切回來(lái)的時(shí)候,恢復(fù)先前保存的寄存器上下文和棧。因此:協(xié)程能保留上一次調(diào)用時(shí)的狀態(tài)(即所有局部狀態(tài)的一個(gè)特定組合),每次過(guò)程重入時(shí),就相當(dāng)于進(jìn)入上一次調(diào)用的狀態(tài),換種說(shuō)法:進(jìn)入上一次離開(kāi)時(shí)所處邏輯流的位置。
1.2 協(xié)程的優(yōu)缺點(diǎn)
協(xié)程的優(yōu)點(diǎn):(1)無(wú)需線程上下文切換的開(kāi)銷,協(xié)程避免了無(wú)意義的調(diào)度,由此可以提高性能(但也因此,程序員必須自己承擔(dān)調(diào)度的責(zé)任,同時(shí),協(xié)程也失去了標(biāo)準(zhǔn)線程使用多CPU的能力)(2)無(wú)需原子操作鎖定及同步的開(kāi)銷(3)方便切換控制流,簡(jiǎn)化編程模型(4)高并發(fā)+高擴(kuò)展性+低成本:一個(gè)CPU支持上萬(wàn)的協(xié)程都不是問(wèn)題。所以很適合用于高并發(fā)處理。
協(xié)程的缺點(diǎn):(1)無(wú)法利用多核資源:協(xié)程的本質(zhì)是個(gè)單線程,它不能同時(shí)將 單個(gè)CPU 的多個(gè)核用上,協(xié)程需要和進(jìn)程配合才能運(yùn)行在多CPU上.當(dāng)然我們?nèi)粘K帉懙慕^大部分應(yīng)用都沒(méi)有這個(gè)必要,除非是cpu密集型應(yīng)用。(2)進(jìn)行阻塞(Blocking)操作(如IO時(shí))會(huì)阻塞掉整個(gè)程序
二、Python中如何實(shí)現(xiàn)協(xié)程
2.1 yield實(shí)現(xiàn)協(xié)程
前文所述“子程序(函數(shù))在執(zhí)行過(guò)程中可以中斷去執(zhí)行別的子程序;別的子程序也可以中斷回來(lái)繼續(xù)執(zhí)行之前的子程序”,那么很容易想到Python的yield,顯然yield是可以實(shí)現(xiàn)這種切換的。
def eater(name): print("%s eat food" %name) while True: food = yield print("done")g = eater("gangdan")print(g)
執(zhí)行結(jié)果:
由執(zhí)行結(jié)果可以證明g現(xiàn)在就是生成器函數(shù)
2.2 協(xié)程函數(shù)賦值過(guò)程
用的是yield的表達(dá)式形式,要先運(yùn)行next(),讓函數(shù)初始化并停在yield,然后再send() ,send會(huì)在觸發(fā)下一次代碼的執(zhí)行時(shí),給yield賦值
next()和send() 都是讓函數(shù)在上次暫停的位置繼續(xù)運(yùn)行:
def creater(name): print('%s start to eat food' %name) food_list = [] while True: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)# 獲取生成器builder = creater('tom')# 現(xiàn)在是運(yùn)行函數(shù),讓函數(shù)初始化next(builder)print(builder.send('包子'))print(builder.send('骨頭'))print(builder.send('菜湯'))
運(yùn)行結(jié)果:
tom start to eat foodtom get 包子 ,to start eat['包子']tom get 骨頭 ,to start eat['包子', '骨頭']tom get 菜湯 ,to start eat['包子', '骨頭', '菜湯']
需要注意的是每次都需要先運(yùn)行next()函數(shù),讓程序停留在yield位置。
如果有多個(gè)這樣的函數(shù)都需要執(zhí)行next()函數(shù),讓程序停留在yield位置。為了防止忘記初始化next操作,需要用到裝飾器來(lái)解決此問(wèn)題。
def init(func): def wrapper(*args,**kwargs): builder = func(*args,**kwargs) next(builder) # 這個(gè)地方是關(guān)鍵可以使用builder.send("None"),第一次必須傳入None。 return builder return wrapper@initdef creater(name): print('%s start to eat food' %name) food_list = [] while True: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)# 獲取生成器builder = creater("tom")# 現(xiàn)在是直接運(yùn)行函數(shù),無(wú)須再函數(shù)初始化print(builder.send('包子'))print(builder.send('骨頭'))print(builder.send('菜湯'))
執(zhí)行結(jié)果:
tom start to eat foodtom get 包子 ,to start eat['包子']tom get 骨頭 ,to start eat['包子', '骨頭']tom get 菜湯 ,to start eat['包子', '骨頭', '菜湯']
2.3 協(xié)程函數(shù)簡(jiǎn)單應(yīng)用
請(qǐng)給Tom投喂食物:
def init(func): def wrapper(*args,**kwargs): builder = func(*args,**kwargs) next(builder) return builder return wrapper@initdef creater(name): print('%s start to eat food' %name) food_list = [] while True: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)def food(): builder = creater("Tom") while True: food = input("請(qǐng)給Tom投喂食物:").strip() if food == "q": print("投喂結(jié)束") return 0 else: builder.send(food)if __name__ == '__main__': food()
執(zhí)行結(jié)果:
Tom start to eat food請(qǐng)給Tom投喂食物:骨頭Tom get 骨頭 ,to start eat請(qǐng)給Tom投喂食物:菜湯Tom get 菜湯 ,to start eat請(qǐng)給Tom投喂食物:q投喂結(jié)束
2.4 協(xié)程函數(shù)的應(yīng)用
實(shí)現(xiàn)linux中"grep -rl error <目錄>"命令,過(guò)濾一個(gè)文件下的子文件、字文件夾的內(nèi)容中的相應(yīng)的內(nèi)容的功能程序。
首先了解一個(gè)OS模塊中的walk方法,能夠把參數(shù)中的路徑下的文件夾打開(kāi)并返回一個(gè)元組。
>>> import os # 導(dǎo)入模塊>>> os.walk(r"E:Pythonscript") #使用r 是讓字符串中的符號(hào)沒(méi)有特殊意義,針對(duì)的是轉(zhuǎn)義
返回的是一個(gè)元組,第一個(gè)元素是文件的路徑,第二個(gè)是文件夾,第三個(gè)是該路徑下的文件。
這里需要用到一個(gè)寫程序的思想:面向過(guò)程編程。
三、面向過(guò)程編程
面向過(guò)程:核心是過(guò)程二字,過(guò)程及即解決問(wèn)題的步驟,基于面向過(guò)程設(shè)計(jì)程序就是一條工業(yè)流水線,是一種機(jī)械式的思維方式。流水線式的編程思想,在設(shè)計(jì)程序時(shí),需要把整個(gè)流程設(shè)計(jì)出來(lái)。
優(yōu)點(diǎn):1:體系結(jié)構(gòu)更加清晰2:簡(jiǎn)化程序的復(fù)雜度
缺點(diǎn):可擴(kuò)展性極其的差,所以說(shuō)面向過(guò)程的應(yīng)用場(chǎng)景是:不需要經(jīng)常變化的軟件,如:linux內(nèi)核,httpd,git等軟件下面就根據(jù)面向過(guò)程的思想完成協(xié)程函數(shù)應(yīng)用中的功能。
目錄結(jié)構(gòu):
test├── aa│ ├── bb1│ │ └── file2.txt│ └── bb2│ └── file3.txt└─ file1.txt文件內(nèi)容:file1.txt:error123file2.txt:123file3.txt:123error
程序流程:第一階段:找到所有文件的絕對(duì)路徑第二階段:打開(kāi)文件第三階段:循環(huán)讀取每一行第四階段:過(guò)濾“error”第五階段:打印該行屬于的文件名第一階段:找到所有文件的絕對(duì)路徑
g是一個(gè)生成器,就能夠用next()執(zhí)行,每次next就是運(yùn)行一次,這里的運(yùn)行結(jié)果是依次打開(kāi)文件的路徑:
>>> import os>>> g = os.walk(r"E:Pythonscript函數(shù) est")>>> next(g)('E:\Python\script\函數(shù)\test', ['aa'], [])>>> next(g)('E:\Python\script\函數(shù)\test\aa', ['bb1', 'bb2'], ['file1.txt'])>>> next(g)('E:\Python\script\函數(shù)\test\aa\bb1', [], ['file2.txt'])>>> next(g)('E:\Python\script\函數(shù)\test\aa\bb2', [], ['file3.txt'])>>> next(g)Traceback (most recent call last): File "", line 1, in
我們?cè)诖蜷_(kāi)文件的時(shí)候需要找到文件的絕對(duì)路徑,現(xiàn)在可以通過(guò)字符串拼接的方法把第一部分和第三部分進(jìn)行拼接。
用循環(huán)打開(kāi):
import osdir_g = os.walk(r"E:Pythonscript函數(shù) est")for dir_path in dir_g: print(dir_path)
結(jié)果:
('E:\Python\script\函數(shù)\test', ['aa'], [])('E:\Python\script\函數(shù)\test\aa', ['bb1', 'bb2'], ['file1.txt'])('E:\Python\script\函數(shù)\test\aa\bb1', [], ['file2.txt'])('E:\Python\script\函數(shù)\test\aa\bb2', [], ['file3.txt'])
將查詢出來(lái)的文件和路徑進(jìn)行拼接,拼接成絕對(duì)路徑
import osdir_g = os.walk(r"E:Pythonscript函數(shù) est")for dir_path in dir_g: for file in dir_path[2]: file = "%s\%s" %(dir_path[0],file) print(file)
執(zhí)行結(jié)果:
E:Pythonscript函數(shù)testaaile1.txtE:Pythonscript函數(shù)testaab1ile2.txtE:Pythonscript函數(shù)testaab2ile3.txt
用函數(shù)實(shí)現(xiàn):
import osdef search(): while True: dir_name = yield dir_g = os.walk(dir_name) for dir_path in dir_g: for file in dir_path[2]: file = "%s\%s" %(dir_path[0],file) print(file)g = search()next(g)g.send(r"E:Pythonscript函數(shù) est")
為了把結(jié)果返回給下一流程
@init # 初始化生成器def search(target): while True: dir_name = yield dir_g = os.walk(dir_name) for pardir,_,files in dir_g: for file in files: abspath = r"%s%s" %(pardir,file) target.send(abspath)
第二階段:打開(kāi)文件
@initdef opener(target): while True: abspath=yield with open(abspath,'rb') as f: target.send((abspath,f))
第三階段:循環(huán)讀出每一行內(nèi)容
@initdef cat(target): while True: abspath,f=yield #(abspath,f) for line in f: res=target.send((abspath,line)) if res:break
第四階段:過(guò)濾
@initdef grep(pattern,target): tag=False while True: abspath,line=yield tag tag=False if pattern in line: target.send(abspath) tag=True
第五階段:打印該行屬于的文件名
@initdef printer(): while True: abspath=yield print(abspath)g = search(opener(cat(grep('error'.encode('utf-8'), printer()))))g.send(r'E:Pythonscript函數(shù) est')
執(zhí)行結(jié)果:
E:Pythonscript函數(shù)testaaile1.txtE:Pythonscript函數(shù)testaab2ile3.txt
-
自動(dòng)化
+關(guān)注
關(guān)注
29文章
5620瀏覽量
79532 -
函數(shù)
+關(guān)注
關(guān)注
3文章
4345瀏覽量
62882 -
python
+關(guān)注
關(guān)注
56文章
4807瀏覽量
84956
原文標(biāo)題:Python自動(dòng)化運(yùn)維之高級(jí)函數(shù)
文章出處:【微信號(hào):magedu-Linux,微信公眾號(hào):馬哥Linux運(yùn)維】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論