
詳解Python自建logging模塊
簡單使用
最開始,我們用最短的代碼體驗一下logging的基本功能。
import logging
logger = logging.getLogger()
logging.basicConfig()
logger.setLevel('DEBUG')
logger.debug('logsomething')
#輸出
out>>DEBG:root:logsomething
第一步,通過logging.getLogger函數(shù),獲取一個loger對象,但這個對象暫時是無法使用的。
第二步,logging.basicConfig函數(shù),進行一系列默認的配置,包括format、handler等。
第三步,logger調(diào)用setLevel函數(shù)定義日志級別為DEBUG 最后,調(diào)用debug函數(shù),輸出一條debug級別的message,顯示在了標準輸出上。 logging中的日志級別
logging在生成日志的時候,有一個日志級別的機制,默認有以下幾個日志級別:
CRITICAL = 50
ERROR = 40
WARNING = 30
INFO 20
DEBUG = 10
NOTEST = 0
每一個logger對象,都有一個日志級別,它只會輸出高于它level的日志。如果一個logger的level是INFO,那么調(diào)用logger.debug()是無法輸出日志的,而logger.warning()能夠輸出。
一般來說,以上的6個日志級別完全滿足我們?nèi)粘J褂昧恕?br />
logging中的基礎類
logging是python的一個基礎模塊,它在python中的源碼位置如下:
#主干代碼
/usr/lib/python2.7/logging/__init__.py
#擴展的handler和config
/usr/lib/pyhon2.7/logging/config.py
/usr/lib/python2.7/loging/handlers.py
組成logging的主干的幾個基礎類都在__init__.py中:
第一個基礎類LogRecord
一個LogRecord對象,對應了日志中的一行數(shù)據(jù)。通常包含:時間、日志級別、message信息、當前執(zhí)行的模塊、行號、函數(shù)名...這些信息都包含在一個LogRecord對象里。
LogRecord對象可以想象成一個大字典:
class LogRecord(object):
#代表一條日志的類
def getMessage(self):
#獲取self.msg
def markLogRecord(dict):
#這個方法很重要,生成一個空的LogRecord,然后通過一個字典,直接更新LogReocrd中的成員變量
rv = LogRecord(None, None, "", 0, "", (), None, None)
rv.__dict__.update(dict)
return rv
第二個基礎類Formatter
Formatter對象是用來定義日志格式的,LogRecord保存了很多信息,但是打印日志的時候我們只需要其中幾個,F(xiàn)ormatter就提供了這樣的功能,它依賴于python的一個功能:
#通過字典的方式,輸出格式化字符串
print('%(name)s:%(num)d'%{'name':'my_name', 'num' : 100})
out >>>my_name:100
如果說LogRecord是后面的那個字典,那么Formatter就是前面的那個格式字符串...的抽象
重要的代碼如下:
class Formatter(object):
def __init__(self, fmt=None, datefmt = None):
if fmt:
self._fmt = fmt
else:
#默認的format
self._fmt = "%(message)s"
def format(self, record)
#使用self._fmt進行格式化
s = self._fmt %record.__dict__
return s
第三個基礎類Filter和Filterer
Filter類,功能很簡單。Filter.filter()函數(shù)傳入一個LogRecord對象,通過篩選返回1,否則返回0.從代碼中可以看到,其實是對LogRecord.name的篩選。
Filterer類中有一個Filter對象的列表,它是一組Filter的抽象。
重要的代碼如下:
class Filter(object):
def __init__(self, name=''):
self.name = name
self.nlen = len(name)
def filter(self, record):
#返回1表示record通過,0表示record不通過
if self.nlen == 0:
return 1
elif self.name == record.name:
return 1
#record.name不是以filter開頭
elif record.name.find(self.name, 0, self.nlen) != 0:
return 0
#最后一位是否為
return (record.name[self.nlen] == '.')
class Filterer(object):
#這個類其實是定義了一個self.filters = []的列表管理多個filter
def addFilter(self, filter):
def removefilter(self, filter):
def filter(self, record):
#使用列表中所有的filter進行篩選,任何一個失敗都會返回0
#例如:
#filter.name = 'A', filter2.name='A.B', filter2.name = 'A, B, C'
#此時record.name = 'A,B,C,D'這樣的record才能通過所有filter的篩選
logging中的高級類
有了以上三個基礎的類,就可以拼湊一些更重要的高級類了,高級類可以實現(xiàn)logging的重要功能。
Handler——抽象了log的輸出過程 Handler類繼承自Filterer。Handler類時log輸出這個過程的抽象。
同時Handler類具有一個成員變量self.level,在第二節(jié)討論的日志級別的機制,就是在Handler中實現(xiàn)的。
Handler有一個emit(record)函數(shù),這個函數(shù)負責輸出log,必須在Handler的子類中實現(xiàn)。
重要代碼如下:
class Handler(Filterer):
def __init__(self, level = NOTEST)
#handler必須有l(wèi)evel屬性
self.level = _checkLevel(level)
def format(self, record):
#使用self.formatter, formattercord
def handler(self, record):
#如果通過filter的篩選,則emit這條log
rv = self.filter(record)
self.emit(record)
def emit(self, record):
#等待子類去實現(xiàn)
接下來看兩個簡單的handler的子類,其中在logging源碼中,有一個handler.py專門定義了很多復雜的handler,有的可以將log緩存在內(nèi)存中,有的可以將log做rotation等。
StreamHandler
最簡單的handler實現(xiàn),將log寫入一個流,默認的stream是sys.stderr
重要的代碼如下:
class StreamHandler(Handler):
def __init__(self, stream = None):
if stream is None:
stream = sys.stderr
self.stream = stream
def emit(self, record):
#將record的信息寫入流
#處理一些編碼的異常
fs = '%s\n' #每條日志都有換行
stream = self.stream
stream.write(fs%msg)
FileHandler
將log輸出到文件的handler,繼承StreamHandler
重要代碼如下:
class FileHandler(StreamHandler):
def __init__(self, filename, mode='a')
#append方式打開一個文件
StreamHandler.__init__(self, self._open())
def emit(self, record):
#和streamhandler保持一致
StreamHandler.emit(self, record)
Logger——一個獨立的log管道
什么是logger?
+ logger類繼承自Filterer,
+ logger對象有l(wèi)ogger.level日志級別
+ logger對象控制多個handler:logger.handlers = []
+ logger對象之間存在福字關系
簡單的來說,logger這個類,集中了我們以上所有的LogRecord、Filter類、Formatter類、handler類。首先,logger根據(jù)輸入生成一個LogRecord讀寫,經(jīng)過Filter和Formatter之后,再通過self.handlers列表中的所有handler,把log發(fā)送出去。
一個logger中可能有多個handler,可以實現(xiàn)把一份log放到任意的位置。
class Logger(Filterer):
def __init__(self, name, level=NOTEST)
#handler列表
self.handlers = []
self.level = _checklevel(level)
def addHandler(self, hdlr):
def removeHandler(self, hdlr):
def _log(self, level, msg, args, exc_info=None, extra=None):
#在_log函數(shù)中創(chuàng)建了一個LogRecord對象
record = self.makeRecord(self.name, level, fn, lno, msg, args, exc_info, func, extra)
#交給handle函數(shù)
self.handle(record)
def handle(self, reord):
#進行filter,然后調(diào)用callHandlers
if(not self.disabled) and self.filter(record):
self.callHandlers(record)
def callHandlers(self, record):
#從當前l(fā)ogger到所有的父logger,遞歸的handl傳入的record
c = self
while c:
for hdlr in c.handlers:
hdlr.handle(record) #進入handler的emit函數(shù)發(fā)送log
....
c = c.parent
LoggerAdapter——對標準logger的一個擴展
LogRecord這個大字典中提供的成員變量已經(jīng)很多,但是,如果在輸出log時候仍然希望能夠夾帶一些自己想要看到的更多信息,例如產(chǎn)生這個log的時候,調(diào)用某些函數(shù)去獲得其他信息,那么就可以把這些添加到Logger中,LoggerAdapter這個類就起到這個作用。
LoggerAdapter這個類很有意思,如果不做什么改動,那么LoggerAdapter類和Logger并沒有什么區(qū)別。LoggerAdapter只是對Logger類進行了一下包裝。
LoggerAdapter的用法其實是在它的成員函數(shù)process()的注釋中已經(jīng)說明了:
def process(self, msg, kwargs):
'''
Normally,you'll only need to overwrite this one method in a LoggerAdapter subclass for your specific needs.
'''
也就是說重寫process函數(shù),以下是一個例子:
import logging
import random
L=logging.getLogger('name')
#定義一個函數(shù),生成0~1000的隨機數(shù)
def func():
return random.randint(1,1000)
class myLogger(logging.LoggerAdapter):
#繼承LoggerAdapter,重寫process,生成隨機數(shù)添加到msg前面
def process(self,msg,kwargs):
return '(%d),%s' % (self.extra['name'](),msg) ,kwargs
#函數(shù)對象放入字典中傳入
LA=myLogger(L,{'name':func})
#now,do some logging
LA.debug('some_loging_messsage')
out>>DEBUG:name:(167),some_loging_messsage
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關聯(lián)查詢效率:打破 “拆分必慢” 的認知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結構數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結構數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預期算子的內(nèi)涵、作用與應用解析 動態(tài)隨機一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結構數(shù)據(jù)特征價值的專業(yè)核心 表結構數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結構化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應用 在數(shù)據(jù)分析與統(tǒng)計學領域,假設檢驗是驗證研究假設、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結構數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結構數(shù)據(jù)(以 “行 - 列” 存儲的結構化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進行 HTTP 網(wǎng)絡請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結構數(shù)據(jù)價值的核心操盤手 表格結構數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點數(shù)據(jù)的科學計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點數(shù)據(jù)時的科學計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務數(shù)據(jù)分析是企業(yè)解決日常運營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務邏輯:從規(guī)則拆解到數(shù)據(jù)把關的實戰(zhàn)指南 在業(yè)務系統(tǒng)落地過程中,“業(yè)務邏輯” 是連接 “需求設計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當下,精準營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10