
詳解Python自建logging模塊
簡單使用
最開始,我們用最短的代碼體驗(yàn)一下logging的基本功能。
import logging
logger = logging.getLogger()
logging.basicConfig()
logger.setLevel('DEBUG')
logger.debug('logsomething')
#輸出
out>>DEBG:root:logsomething
第一步,通過logging.getLogger函數(shù),獲取一個(gè)loger對象,但這個(gè)對象暫時(shí)是無法使用的。
第二步,logging.basicConfig函數(shù),進(jìn)行一系列默認(rèn)的配置,包括format、handler等。
第三步,logger調(diào)用setLevel函數(shù)定義日志級別為DEBUG 最后,調(diào)用debug函數(shù),輸出一條debug級別的message,顯示在了標(biāo)準(zhǔn)輸出上。 logging中的日志級別
logging在生成日志的時(shí)候,有一個(gè)日志級別的機(jī)制,默認(rèn)有以下幾個(gè)日志級別:
CRITICAL = 50
ERROR = 40
WARNING = 30
INFO 20
DEBUG = 10
NOTEST = 0
每一個(gè)logger對象,都有一個(gè)日志級別,它只會(huì)輸出高于它level的日志。如果一個(gè)logger的level是INFO,那么調(diào)用logger.debug()是無法輸出日志的,而logger.warning()能夠輸出。
一般來說,以上的6個(gè)日志級別完全滿足我們?nèi)粘J褂昧恕?br />
logging中的基礎(chǔ)類
logging是python的一個(gè)基礎(chǔ)模塊,它在python中的源碼位置如下:
#主干代碼
/usr/lib/python2.7/logging/__init__.py
#擴(kuò)展的handler和config
/usr/lib/pyhon2.7/logging/config.py
/usr/lib/python2.7/loging/handlers.py
組成logging的主干的幾個(gè)基礎(chǔ)類都在__init__.py中:
第一個(gè)基礎(chǔ)類LogRecord
一個(gè)LogRecord對象,對應(yīng)了日志中的一行數(shù)據(jù)。通常包含:時(shí)間、日志級別、message信息、當(dāng)前執(zhí)行的模塊、行號(hào)、函數(shù)名...這些信息都包含在一個(gè)LogRecord對象里。
LogRecord對象可以想象成一個(gè)大字典:
class LogRecord(object):
#代表一條日志的類
def getMessage(self):
#獲取self.msg
def markLogRecord(dict):
#這個(gè)方法很重要,生成一個(gè)空的LogRecord,然后通過一個(gè)字典,直接更新LogReocrd中的成員變量
rv = LogRecord(None, None, "", 0, "", (), None, None)
rv.__dict__.update(dict)
return rv
第二個(gè)基礎(chǔ)類Formatter
Formatter對象是用來定義日志格式的,LogRecord保存了很多信息,但是打印日志的時(shí)候我們只需要其中幾個(gè),F(xiàn)ormatter就提供了這樣的功能,它依賴于python的一個(gè)功能:
#通過字典的方式,輸出格式化字符串
print('%(name)s:%(num)d'%{'name':'my_name', 'num' : 100})
out >>>my_name:100
如果說LogRecord是后面的那個(gè)字典,那么Formatter就是前面的那個(gè)格式字符串...的抽象
重要的代碼如下:
class Formatter(object):
def __init__(self, fmt=None, datefmt = None):
if fmt:
self._fmt = fmt
else:
#默認(rèn)的format
self._fmt = "%(message)s"
def format(self, record)
#使用self._fmt進(jìn)行格式化
s = self._fmt %record.__dict__
return s
第三個(gè)基礎(chǔ)類Filter和Filterer
Filter類,功能很簡單。Filter.filter()函數(shù)傳入一個(gè)LogRecord對象,通過篩選返回1,否則返回0.從代碼中可以看到,其實(shí)是對LogRecord.name的篩選。
Filterer類中有一個(gè)Filter對象的列表,它是一組Filter的抽象。
重要的代碼如下:
class Filter(object):
def __init__(self, name=''):
self.name = name
self.nlen = len(name)
def filter(self, record):
#返回1表示record通過,0表示record不通過
if self.nlen == 0:
return 1
elif self.name == record.name:
return 1
#record.name不是以filter開頭
elif record.name.find(self.name, 0, self.nlen) != 0:
return 0
#最后一位是否為
return (record.name[self.nlen] == '.')
class Filterer(object):
#這個(gè)類其實(shí)是定義了一個(gè)self.filters = []的列表管理多個(gè)filter
def addFilter(self, filter):
def removefilter(self, filter):
def filter(self, record):
#使用列表中所有的filter進(jìn)行篩選,任何一個(gè)失敗都會(huì)返回0
#例如:
#filter.name = 'A', filter2.name='A.B', filter2.name = 'A, B, C'
#此時(shí)record.name = 'A,B,C,D'這樣的record才能通過所有filter的篩選
logging中的高級類
有了以上三個(gè)基礎(chǔ)的類,就可以拼湊一些更重要的高級類了,高級類可以實(shí)現(xiàn)logging的重要功能。
Handler——抽象了log的輸出過程 Handler類繼承自Filterer。Handler類時(shí)log輸出這個(gè)過程的抽象。
同時(shí)Handler類具有一個(gè)成員變量self.level,在第二節(jié)討論的日志級別的機(jī)制,就是在Handler中實(shí)現(xiàn)的。
Handler有一個(gè)emit(record)函數(shù),這個(gè)函數(shù)負(fù)責(zé)輸出log,必須在Handler的子類中實(shí)現(xiàn)。
重要代碼如下:
class Handler(Filterer):
def __init__(self, level = NOTEST)
#handler必須有l(wèi)evel屬性
self.level = _checkLevel(level)
def format(self, record):
#使用self.formatter, formattercord
def handler(self, record):
#如果通過filter的篩選,則emit這條log
rv = self.filter(record)
self.emit(record)
def emit(self, record):
#等待子類去實(shí)現(xiàn)
接下來看兩個(gè)簡單的handler的子類,其中在logging源碼中,有一個(gè)handler.py專門定義了很多復(fù)雜的handler,有的可以將log緩存在內(nèi)存中,有的可以將log做rotation等。
StreamHandler
最簡單的handler實(shí)現(xiàn),將log寫入一個(gè)流,默認(rèn)的stream是sys.stderr
重要的代碼如下:
class StreamHandler(Handler):
def __init__(self, stream = None):
if stream is None:
stream = sys.stderr
self.stream = stream
def emit(self, record):
#將record的信息寫入流
#處理一些編碼的異常
fs = '%s\n' #每條日志都有換行
stream = self.stream
stream.write(fs%msg)
FileHandler
將log輸出到文件的handler,繼承StreamHandler
重要代碼如下:
class FileHandler(StreamHandler):
def __init__(self, filename, mode='a')
#append方式打開一個(gè)文件
StreamHandler.__init__(self, self._open())
def emit(self, record):
#和streamhandler保持一致
StreamHandler.emit(self, record)
Logger——一個(gè)獨(dú)立的log管道
什么是logger?
+ logger類繼承自Filterer,
+ logger對象有l(wèi)ogger.level日志級別
+ logger對象控制多個(gè)handler:logger.handlers = []
+ logger對象之間存在福字關(guān)系
簡單的來說,logger這個(gè)類,集中了我們以上所有的LogRecord、Filter類、Formatter類、handler類。首先,logger根據(jù)輸入生成一個(gè)LogRecord讀寫,經(jīng)過Filter和Formatter之后,再通過self.handlers列表中的所有handler,把log發(fā)送出去。
一個(gè)logger中可能有多個(gè)handler,可以實(shí)現(xiàn)把一份log放到任意的位置。
class Logger(Filterer):
def __init__(self, name, level=NOTEST)
#handler列表
self.handlers = []
self.level = _checklevel(level)
def addHandler(self, hdlr):
def removeHandler(self, hdlr):
def _log(self, level, msg, args, exc_info=None, extra=None):
#在_log函數(shù)中創(chuàng)建了一個(gè)LogRecord對象
record = self.makeRecord(self.name, level, fn, lno, msg, args, exc_info, func, extra)
#交給handle函數(shù)
self.handle(record)
def handle(self, reord):
#進(jìn)行filter,然后調(diào)用callHandlers
if(not self.disabled) and self.filter(record):
self.callHandlers(record)
def callHandlers(self, record):
#從當(dāng)前l(fā)ogger到所有的父logger,遞歸的handl傳入的record
c = self
while c:
for hdlr in c.handlers:
hdlr.handle(record) #進(jìn)入handler的emit函數(shù)發(fā)送log
....
c = c.parent
LoggerAdapter——對標(biāo)準(zhǔn)logger的一個(gè)擴(kuò)展
LogRecord這個(gè)大字典中提供的成員變量已經(jīng)很多,但是,如果在輸出log時(shí)候仍然希望能夠夾帶一些自己想要看到的更多信息,例如產(chǎn)生這個(gè)log的時(shí)候,調(diào)用某些函數(shù)去獲得其他信息,那么就可以把這些添加到Logger中,LoggerAdapter這個(gè)類就起到這個(gè)作用。
LoggerAdapter這個(gè)類很有意思,如果不做什么改動(dòng),那么LoggerAdapter類和Logger并沒有什么區(qū)別。LoggerAdapter只是對Logger類進(jìn)行了一下包裝。
LoggerAdapter的用法其實(shí)是在它的成員函數(shù)process()的注釋中已經(jīng)說明了:
def process(self, msg, kwargs):
'''
Normally,you'll only need to overwrite this one method in a LoggerAdapter subclass for your specific needs.
'''
也就是說重寫process函數(shù),以下是一個(gè)例子:
import logging
import random
L=logging.getLogger('name')
#定義一個(gè)函數(shù),生成0~1000的隨機(jī)數(shù)
def func():
return random.randint(1,1000)
class myLogger(logging.LoggerAdapter):
#繼承LoggerAdapter,重寫process,生成隨機(jī)數(shù)添加到msg前面
def process(self,msg,kwargs):
return '(%d),%s' % (self.extra['name'](),msg) ,kwargs
#函數(shù)對象放入字典中傳入
LA=myLogger(L,{'name':func})
#now,do some logging
LA.debug('some_loging_messsage')
out>>DEBUG:name:(167),some_loging_messsage
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號(hào):CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報(bào)考條件詳解與準(zhǔn)備指南? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代浪潮下,CDA 數(shù)據(jù)分析師認(rèn)證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計(jì)的實(shí)用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強(qiáng)大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實(shí)施重大更新。 此次更新旨在確保認(rèn) ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價(jià)值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時(shí)代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動(dòng)決策的時(shí)代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價(jià)值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價(jià)值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點(diǎn),而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報(bào)考到取證的全攻略? 在數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗(yàn):捕捉數(shù)據(jù)背后的時(shí)間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗(yàn)如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時(shí)間維度的精準(zhǔn)切片? ? 在數(shù)據(jù)的世界里,時(shí)間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準(zhǔn) ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實(shí)戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認(rèn)證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗(yàn):數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準(zhǔn)確捕捉數(shù)據(jù)的趨勢變化以及識(shí)別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認(rèn)證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認(rèn)證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨(dú)特的門控機(jī)制,在 ...
2025-07-07統(tǒng)計(jì)學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動(dòng)態(tài)、了解消費(fèi)者需求的重要途徑,而統(tǒng)計(jì)學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動(dòng)力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準(zhǔn)確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動(dòng)力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價(jià)值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03