
詳解Python中with語句的用法
with 語句是從 Python 2.5 開始引入的一種與異常處理相關(guān)的功能(2.5 版本中要通過 from __future__ import with_statement 導(dǎo)入后才可以使用),從 2.6 版本開始缺省可用(參考 What's new in Python 2.6? 中 with 語句相關(guān)部分介紹)。with 語句適用于對(duì)資源進(jìn)行訪問的場(chǎng)合,確保不管使用過程中是否發(fā)生異常都會(huì)執(zhí)行必要的“清理”操作,釋放資源,比如文件使用后自動(dòng)關(guān)閉、線程中鎖的自動(dòng)獲取和釋放等。
術(shù)語
要使用 with 語句,首先要明白上下文管理器這一概念。有了上下文管理器,with 語句才能工作。
下面是一組與上下文管理器和with 語句有關(guān)的概念。
上下文管理協(xié)議(Context Management Protocol):包含方法 __enter__() 和 __exit__(),支持
該協(xié)議的對(duì)象要實(shí)現(xiàn)這兩個(gè)方法。
上下文管理器(Context Manager):支持上下文管理協(xié)議的對(duì)象,這種對(duì)象實(shí)現(xiàn)了
__enter__() 和 __exit__() 方法。上下文管理器定義執(zhí)行 with 語句時(shí)要建立的運(yùn)行時(shí)上下文,
負(fù)責(zé)執(zhí)行 with 語句塊上下文中的進(jìn)入與退出操作。通常使用 with 語句調(diào)用上下文管理器,
也可以通過直接調(diào)用其方法來使用。
運(yùn)行時(shí)上下文(runtime context):由上下文管理器創(chuàng)建,通過上下文管理器的 __enter__() 和
__exit__() 方法實(shí)現(xiàn),__enter__() 方法在語句體執(zhí)行之前進(jìn)入運(yùn)行時(shí)上下文,__exit__() 在
語句體執(zhí)行完后從運(yùn)行時(shí)上下文退出。with 語句支持運(yùn)行時(shí)上下文這一概念。
上下文表達(dá)式(Context Expression):with 語句中跟在關(guān)鍵字 with 之后的表達(dá)式,該表達(dá)式
要返回一個(gè)上下文管理器對(duì)象。
語句體(with-body):with 語句包裹起來的代碼塊,在執(zhí)行語句體之前會(huì)調(diào)用上下文管
理器的 __enter__() 方法,執(zhí)行完語句體之后會(huì)執(zhí)行 __exit__() 方法。
基本語法和工作原理
with 語句的語法格式如下:
清單 1. with 語句的語法格式
with context_expression [as target(s)]:
with-body
這里 context_expression 要返回一個(gè)上下文管理器對(duì)象,該對(duì)象并不賦值給 as 子句中的 target(s) ,如果指定了 as 子句的話,會(huì)將上下文管理器的 __enter__() 方法的返回值賦值給 target(s)。target(s) 可以是單個(gè)變量,或者由“()”括起來的元組(不能是僅僅由“,”分隔的變量列表,必須加“()”)。
Python 對(duì)一些內(nèi)建對(duì)象進(jìn)行改進(jìn),加入了對(duì)上下文管理器的支持,可以用于 with 語句中,比如可以自動(dòng)關(guān)閉文件、線程鎖的自動(dòng)獲取和釋放等。假設(shè)要對(duì)一個(gè)文件進(jìn)行操作,使用 with 語句可以有如下代碼:
清單 2. 使用 with 語句操作文件對(duì)象
with open(r'somefileName') as somefile:
for line in somefile:
print line
# ...more code
這里使用了 with 語句,不管在處理文件過程中是否發(fā)生異常,都能保證 with 語句執(zhí)行完畢后已經(jīng)關(guān)閉了打開的文件句柄。如果使用傳統(tǒng)的 try/finally 范式,則要使用類似如下代碼:
清單 3. try/finally 方式操作文件對(duì)象
somefile = open(r'somefileName')
try:
for line in somefile:
print line
# ...more code
finally:
somefile.close()
比較起來,使用 with 語句可以減少編碼量。已經(jīng)加入對(duì)上下文管理協(xié)議支持的還有模塊 threading、decimal 等。
PEP 0343 對(duì) with 語句的實(shí)現(xiàn)進(jìn)行了描述。with 語句的執(zhí)行過程類似如下代碼塊:
清單 4. with 語句執(zhí)行過程
context_manager = context_expression
exit = type(context_manager).__exit__
value = type(context_manager).__enter__(context_manager)
exc = True # True 表示正常執(zhí)行,即便有異常也忽略;False 表示重新拋出異常,需要對(duì)異常進(jìn)行處理
try:
try:
target = value # 如果使用了 as 子句
with-body # 執(zhí)行 with-body
except:
# 執(zhí)行過程中有異常發(fā)生
exc = False
# 如果 __exit__ 返回 True,則異常被忽略;如果返回 False,則重新拋出異常
# 由外層代碼對(duì)異常進(jìn)行處理
if not exit(context_manager, *sys.exc_info()):
raise
finally:
# 正常退出,或者通過 statement-body 中的 break/continue/return 語句退出
# 或者忽略異常退出
if exc:
exit(context_manager, None, None, None)
# 缺省返回 None,None 在布爾上下文中看做是 False
執(zhí)行 context_expression,生成上下文管理器 context_manager
調(diào)用上下文管理器的 __enter__() 方法;如果使用了 as 子句,則將 __enter__() 方法的返回值賦值給 as 子句中的 target(s)
執(zhí)行語句體 with-body
不管是否執(zhí)行過程中是否發(fā)生了異常,執(zhí)行上下文管理器的 __exit__() 方法,__exit__() 方法負(fù)責(zé)執(zhí)行“清理”工作,如釋放資源等。如果執(zhí)行過程中沒有出現(xiàn)異常,或者語句體中執(zhí)行了語句 break/continue/return,則以 None 作為參數(shù)調(diào)用 __exit__(None, None, None) ;如果執(zhí)行過程中出現(xiàn)異常,則使用 sys.exc_info 得到的異常信息為參數(shù)調(diào)用 __exit__(exc_type, exc_value, exc_traceback)
出現(xiàn)異常時(shí),如果 __exit__(type, value, traceback) 返回 False,則會(huì)重新拋出異常,讓with 之外的語句邏輯來處理異常,這也是通用做法;如果返回 True,則忽略異常,不再對(duì)異常進(jìn)行處理
自定義上下文管理器
開發(fā)人員可以自定義支持上下文管理協(xié)議的類。自定義的上下文管理器要實(shí)現(xiàn)上下文管理協(xié)議所需要的 __enter__() 和 __exit__() 兩個(gè)方法:
context_manager.__enter__() :進(jìn)入上下文管理器的運(yùn)行時(shí)上下文,在語句體執(zhí)行前調(diào)用。with 語句將該方法的返回值賦值給 as 子句中的 target,如果指定了 as 子句的話
context_manager.__exit__(exc_type, exc_value, exc_traceback) :退出與上下文管理器相關(guān)的運(yùn)行時(shí)上下文,返回一個(gè)布爾值表示是否對(duì)發(fā)生的異常進(jìn)行處理。參數(shù)表示引起退出操作的異常,如果退出時(shí)沒有發(fā)生異常,則3個(gè)參數(shù)都為None。如果發(fā)生異常,返回
True 表示不處理異常,否則會(huì)在退出該方法后重新拋出異常以由 with 語句之外的代碼邏輯進(jìn)行處理。如果該方法內(nèi)部產(chǎn)生異常,則會(huì)取代由 statement-body 中語句產(chǎn)生的異常。要處理異常時(shí),不要顯示重新拋出異常,即不能重新拋出通過參數(shù)傳遞進(jìn)來的異常,只需要將返回值設(shè)置為 False 就可以了。之后,上下文管理代碼會(huì)檢測(cè)是否 __exit__() 失敗來處理異常
下面通過一個(gè)簡(jiǎn)單的示例來演示如何構(gòu)建自定義的上下文管理器。注意,上下文管理器必須同時(shí)提供 __enter__() 和 __exit__() 方法的定義,缺少任何一個(gè)都會(huì)導(dǎo)致 AttributeError;with 語句會(huì)先檢查是否提供了 __exit__() 方法,然后檢查是否定義了 __enter__() 方法。
假設(shè)有一個(gè)資源 DummyResource,這種資源需要在訪問前先分配,使用完后再釋放掉;分配操作可以放到 __enter__() 方法中,釋放操作可以放到 __exit__() 方法中。簡(jiǎn)單起見,這里只通過打印語句來表明當(dāng)前的操作,并沒有實(shí)際的資源分配與釋放。
清單 5. 自定義支持 with 語句的對(duì)象
class DummyResource:
def __init__(self, tag):
self.tag = tag
print 'Resource [%s]' % tag
def __enter__(self):
print '[Enter %s]: Allocate resource.' % self.tag
return self # 可以返回不同的對(duì)象
def __exit__(self, exc_type, exc_value, exc_tb):
print '[Exit %s]: Free resource.' % self.tag
if exc_tb is None:
print '[Exit %s]: Exited without exception.' % self.tag
else:
print '[Exit %s]: Exited with exception raised.' % self.tag
return False # 可以省略,缺省的None也是被看做是False
DummyResource 中的 __enter__() 返回的是自身的引用,這個(gè)引用可以賦值給 as 子句中的 target 變量;返回值的類型可以根據(jù)實(shí)際需要設(shè)置為不同的類型,不必是上下文管理器對(duì)象本身。
__exit__() 方法中對(duì)變量 exc_tb 進(jìn)行檢測(cè),如果不為 None,表示發(fā)生了異常,返回 False 表示需要由外部代碼邏輯對(duì)異常進(jìn)行處理;注意到如果沒有發(fā)生異常,缺省的返回值為 None,在布爾環(huán)境中也是被看做 False,但是由于沒有異常發(fā)生,__exit__() 的三個(gè)參數(shù)都為 None,上下文管理代碼可以檢測(cè)這種情況,做正常處理。
下面在 with 語句中訪問 DummyResource :
清單 6. 使用自定義的支持 with 語句的對(duì)象
with DummyResource('Normal'):
print '[with-body] Run without exceptions.'
with DummyResource('With-Exception'):
print '[with-body] Run with exception.'
raise Exception
print '[with-body] Run with exception. Failed to finish statement-body!'
第1個(gè) with 語句的執(zhí)行結(jié)果如下:
清單 7. with 語句1執(zhí)行結(jié)果
Resource [Normal]
[Enter Normal]: Allocate resource.
[with-body] Run without exceptions.
[Exit Normal]: Free resource.
[Exit Normal]: Exited without exception.
可以看到,正常執(zhí)行時(shí)會(huì)先執(zhí)行完語句體 with-body,然后執(zhí)行 __exit__() 方法釋放資源。
第2個(gè) with 語句的執(zhí)行結(jié)果如下:
清單 8. with 語句2執(zhí)行結(jié)果
Resource [With-Exception]
[Enter With-Exception]: Allocate resource.
[with-body] Run with exception.
[Exit With-Exception]: Free resource.
[Exit With-Exception]: Exited with exception raised.
Traceback (most recent call last):
File "G:/demo", line 20, in <module>
raise Exception
Exception
可以看到,with-body 中發(fā)生異常時(shí)with-body 并沒有執(zhí)行完,但資源會(huì)保證被釋放掉,同時(shí)產(chǎn)生的異常由 with 語句之外的代碼邏輯來捕獲處理。
可以自定義上下文管理器來對(duì)軟件系統(tǒng)中的資源進(jìn)行管理,比如數(shù)據(jù)庫連接、共享資源的訪問控制等。Python 在線文檔 Writing Context Managers 提供了一個(gè)針對(duì)數(shù)據(jù)庫連接進(jìn)行管理的上下文管理器的簡(jiǎn)單范例。
contextlib 模塊
contextlib 模塊提供了3個(gè)對(duì)象:裝飾器 contextmanager、函數(shù) nested 和上下文管理器 closing。使用這些對(duì)象,可以對(duì)已有的生成器函數(shù)或者對(duì)象進(jìn)行包裝,加入對(duì)上下文管理協(xié)議的支持,避免了專門編寫上下文管理器來支持 with 語句。
裝飾器 contextmanager
contextmanager 用于對(duì)生成器函數(shù)進(jìn)行裝飾,生成器函數(shù)被裝飾以后,返回的是一個(gè)上下文管理器,其 __enter__() 和 __exit__() 方法由 contextmanager 負(fù)責(zé)提供,而不再是之前的迭代子。被裝飾的生成器函數(shù)只能產(chǎn)生一個(gè)值,否則會(huì)導(dǎo)致異常 RuntimeError;產(chǎn)生的值會(huì)賦值給 as 子句中的 target,如果使用了 as 子句的話。下面看一個(gè)簡(jiǎn)單的例子。
清單 9. 裝飾器 contextmanager 使用示例
from contextlib import contextmanager
@contextmanager
def demo():
print '[Allocate resources]'
print 'Code before yield-statement executes in __enter__'
yield '*** contextmanager demo ***'
print 'Code after yield-statement executes in __exit__'
print '[Free resources]'
with demo() as value:
print 'Assigned Value: %s' % value
結(jié)果輸出如下:
清單 10. contextmanager 使用示例執(zhí)行結(jié)果
[Allocate resources]
Code before yield-statement executes in __enter__
Assigned Value: *** contextmanager demo ***
Code after yield-statement executes in __exit__
[Free resources]
可以看到,生成器函數(shù)中 yield 之前的語句在 __enter__() 方法中執(zhí)行,yield 之后的語句在 __exit__() 中執(zhí)行,而 yield 產(chǎn)生的值賦給了 as 子句中的 value 變量。
需要注意的是,contextmanager 只是省略了 __enter__() / __exit__() 的編寫,但并不負(fù)責(zé)實(shí)現(xiàn)資源的“獲取”和“清理”工作;“獲取”操作需要定義在 yield 語句之前,“清理”操作需要定義 yield 語句之后,這樣 with 語句在執(zhí)行 __enter__() / __exit__() 方法時(shí)會(huì)執(zhí)行這些語句以獲取/釋放資源,即生成器函數(shù)中需要實(shí)現(xiàn)必要的邏輯控制,包括資源訪問出現(xiàn)錯(cuò)誤時(shí)拋出適當(dāng)?shù)漠惓!?br />
函數(shù) nested
nested 可以將多個(gè)上下文管理器組織在一起,避免使用嵌套 with 語句。
清單 11. nested 語法
with nested(A(), B(), C()) as (X, Y, Z):
# with-body code here
類似于:
清單 12. nested 執(zhí)行過程
with A() as X:
with B() as Y:
with C() as Z:
# with-body code here
需要注意的是,發(fā)生異常后,如果某個(gè)上下文管理器的 __exit__() 方法對(duì)異常處理返回 False,則更外層的上下文管理器不會(huì)監(jiān)測(cè)到異常。
上下文管理器 closing
closing 的實(shí)現(xiàn)如下:
清單 13. 上下文管理 closing 實(shí)現(xiàn)
class closing(object):
# help doc here
def __init__(self, thing):
self.thing = thing
def __enter__(self):
return self.thing
def __exit__(self, *exc_info):
self.thing.close()
上下文管理器會(huì)將包裝的對(duì)象賦值給 as 子句的 target 變量,同時(shí)保證打開的對(duì)象在 with-body 執(zhí)行完后會(huì)關(guān)閉掉。closing 上下文管理器包裝起來的對(duì)象必須提供 close() 方法的定義,否則執(zhí)行時(shí)會(huì)報(bào) AttributeError 錯(cuò)誤。
清單 14. 自定義支持 closing 的對(duì)象
class ClosingDemo(object):
def __init__(self):
self.acquire()
def acquire(self):
print 'Acquire resources.'
def free(self):
print 'Clean up any resources acquired.'
def close(self):
self.free()
with closing(ClosingDemo()):
print 'Using resources'
結(jié)果輸出如下:
清單 15. 自定義 closing 對(duì)象的輸出結(jié)果
Acquire resources.
Using resources
Clean up any resources acquired.
closing 適用于提供了 close() 實(shí)現(xiàn)的對(duì)象,比如網(wǎng)絡(luò)連接、數(shù)據(jù)庫連接等,也可以在自定義類時(shí)通過接口 close() 來執(zhí)行所需要的資源“清理”工作。
數(shù)據(jù)分析咨詢請(qǐng)掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實(shí)戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動(dòng)態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價(jià)值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實(shí)戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時(shí),“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗(yàn)與 t 檢驗(yàn):差異、適用場(chǎng)景與實(shí)踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計(jì)學(xué)領(lǐng)域,假設(shè)檢驗(yàn)是驗(yàn)證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計(jì)劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計(jì)劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對(duì)象的 text 與 content:區(qū)別、場(chǎng)景與實(shí)踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請(qǐng)求開發(fā)時(shí)(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價(jià)值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請(qǐng)求工具對(duì)比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請(qǐng)求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計(jì)數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時(shí)的科學(xué)計(jì)數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價(jià)值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價(jià)值 ...
2025-09-12用 SQL 驗(yàn)證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實(shí)戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計(jì)” 與 “用戶體驗(yàn) ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動(dòng)下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價(jià)值 在數(shù)據(jù)驅(qū)動(dòng)決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實(shí)踐到業(yè)務(wù)價(jià)值挖掘 在數(shù)據(jù)分析場(chǎng)景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計(jì)模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價(jià)值導(dǎo)向 統(tǒng)計(jì)模型作為數(shù)據(jù)分析的核心工具,并非簡(jiǎn)單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10