
作者:李曉飛
來源:Python 技術(shù)
今天我來分享一個遷移過程的幕后小故事,有料,有趣,來聽聽吧。
遷移公眾號,是一個騰訊提供的業(yè)務(wù),就是將原公號主體切換到另一個公號上,然后收回原公號。
其中大部分是騰訊來完成的,但還有些工作,需要自己處理,比如遷移公號的 關(guān)鍵字消息回復(fù)。
雖然事情不大,但很重要,做不好,讀者就會找不見源碼,影響大家學(xué)習(xí)效率。
但單操作起來還是比較費(fèi)勁的,因為需要同時登錄兩個公眾號,打開兩個頁面,來回切換著操作,很不方便,而且容易搞錯。
怎么辦,求神拜佛肯定是沒有用的,不過有位大神還真得去拜拜 —— Python!
既然網(wǎng)頁上能看到,那么就一定能用爬蟲獲取到。
咱們故伎重演,瀏覽器中按下 F12,進(jìn)入魔法世界。
你知道百度的校招啟事就藏在這里嗎?
別說是我告訴你的
第一步,先清空請求記錄,刷新頁面,然后從第一條請求記錄開始分析。
實際上就是看看請求的返回值,是否包含了,頁面上列表中的數(shù)據(jù)。
幸運(yùn)的是第一條就是,不過呢,數(shù)據(jù)不是直接給的,而是返回了一個大 js 腳本,當(dāng)頁面加載后,運(yùn)算出的。
分析請求
需要勾上 Perserve Log 否則有用頁面切換可能看不見請求記錄
這個不是困難,將js復(fù)制出來,提取其中關(guān)鍵字回復(fù)的信息整理一下就可以了。
問題是,每頁只顯示十條,有二十多頁,復(fù)雜的成本有點(diǎn)高呀。
得想想辦法,觀察了一下網(wǎng)址,其中有兩個參數(shù),一個是 count,另一個是 offset,很熟悉呀,不和分頁參數(shù)是一回事兒嗎?
分析請求
改一下試試,將 count 改為 1000,offset 改為 0,意思是從第一行開始,獲取一千條,按下回車 ……
搞定!
仔細(xì)檢查,確實返回了所有記錄,因為總共也沒有一千行。
現(xiàn)在可以蠻干了,因為就干一次。
復(fù)制出來,用文本編輯器(最好支持列編輯)簡單處理一下,得到一個 json
json
所以方法需要靈活應(yīng)用,如果能直接通過程序獲取最好,如果不行,手動輔助也是可以的。
接下來,才是重頭戲,如何將這些數(shù)據(jù)寫入。
進(jìn)入新公眾號的管理后臺,新建一個關(guān)鍵字回復(fù),分析下請求,此時別忘記,打開開發(fā)者工具(瀏覽器上按 F12)。
一般提交類請求都是第一個,看一下果然是,不過肉眼看不清具體數(shù)據(jù),怎么辦?
還記得前面好多次提到的將請求復(fù)制為 curl bash 嗎?對就用它,在請求上右鍵,選擇 Copy as cURL(bash)
copy cURL
放在哪里呢?當(dāng)然不是放在文本文件里了,除非你是想做一下暫存。
我們直接粘貼到 https://curl.trillworks.com/ 里,可以直接獲得 轉(zhuǎn)化好的 Python 代碼。
然后將 Python 代碼復(fù)制到文件中,執(zhí)行看看效果,果然,新增了一條記錄。
下面分析請求數(shù)據(jù), 與剛才 json 文件中的做對比,一般名稱很相近,所以容易找出來。
字段相同,可能是來自同一個架構(gòu)設(shè)計,不太可能出自不同的團(tuán)隊開發(fā),哈哈,我竟然看的這么深!
這樣邊找邊寫,等找完,代碼也就完成了,像這樣:
data = {
'replytype': 'smartreply',
'ruleid': '0',
'rulename': kw['rule_name'], # 規(guī)則名
'allreply': kw['reply_all'], # 全回復(fù)
'replycnt': kw['reply_cnt'], # 回復(fù)數(shù)量
'keywordcnt': len(kw['keyword_list']), # 關(guān)鍵字?jǐn)?shù)量
'keyword0': kw['keyword_list'][0]['content'], # 關(guān)鍵字
'matchmode0': kw['keyword_list'][0]['match_mode'], # 匹配模式
'type0': kw['reply_list'][0]['reply_type'], # 消息類型
'fileid0': 'undefined',
'content0': kw['reply_list'][0]['content'], # 回復(fù)內(nèi)容
'token': '105xxxx502',
'lang': 'zh_CN',
'f': 'json',
'ajax': '1'
}
現(xiàn)在將各部分的代碼組合起來。
首先是解析 json 的代碼:
with open("keyword.js", 'r', encoding='utf-8') as word:
d = json.load(word)
超級簡單,利用 json 庫將 keyword.js 文件中的內(nèi)容轉(zhuǎn)化為 Python List 對象
然后是數(shù)據(jù)組合,代碼已經(jīng)在上面展示了。
最后發(fā)送請求:
add(data) print('處理完成,休息2秒...') time.sleep(2)
好了,這樣搞定了,寫代碼用了一個多小時,跑完不到兩分鐘。
美中不足的是,代碼只照顧了大多數(shù)的一條消息的回復(fù)(代碼中直接獲取的數(shù)組中第一個元素, 如 kw['reply_list'][0]),還有幾條回復(fù)是多條消息,照顧不上。
如果要照顧,可能的話 80% 以上的時間,以兼容 20% 不到的情況,不劃算。
怎么辦?涼拌!—— 直接手動添加。
哈哈,我很樂意做這一點(diǎn)手工活兒。
類似這樣的方式,用在其他的地方,完全是可以的,比如之前的約馬程序,訓(xùn)練營運(yùn)營數(shù)據(jù)提取 等等,都是一樣的套路:
就這么簡單,Get 到了嗎?
那,趕緊找個地方試試吧。
每天進(jìn)步一點(diǎn)點(diǎn),生活更美好,比心!
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
SQL Server 中 CONVERT 函數(shù)的日期轉(zhuǎn)換:從基礎(chǔ)用法到實戰(zhàn)優(yōu)化 在 SQL Server 的數(shù)據(jù)處理中,日期格式轉(zhuǎn)換是高頻需求 —— 無論 ...
2025-09-18MySQL 大表拆分與關(guān)聯(lián)查詢效率:打破 “拆分必慢” 的認(rèn)知誤區(qū) 在 MySQL 數(shù)據(jù)庫管理中,“大表” 始終是性能優(yōu)化繞不開的話題。 ...
2025-09-18CDA 數(shù)據(jù)分析師:表結(jié)構(gòu)數(shù)據(jù) “獲取 - 加工 - 使用” 全流程的賦能者 表結(jié)構(gòu)數(shù)據(jù)(如數(shù)據(jù)庫表、Excel 表、CSV 文件)是企業(yè)數(shù)字 ...
2025-09-18DSGE 模型中的 Et:理性預(yù)期算子的內(nèi)涵、作用與應(yīng)用解析 動態(tài)隨機(jī)一般均衡(Dynamic Stochastic General Equilibrium, DSGE)模 ...
2025-09-17Python 提取 TIF 中地名的完整指南 一、先明確:TIF 中的地名有哪兩種存在形式? 在開始提取前,需先判斷 TIF 文件的類型 —— ...
2025-09-17CDA 數(shù)據(jù)分析師:解鎖表結(jié)構(gòu)數(shù)據(jù)特征價值的專業(yè)核心 表結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 規(guī)范存儲的結(jié)構(gòu)化數(shù)據(jù),如數(shù)據(jù)庫表、Excel 表、 ...
2025-09-17Excel 導(dǎo)入數(shù)據(jù)含缺失值?詳解 dropna 函數(shù)的功能與實戰(zhàn)應(yīng)用 在用 Python(如 pandas 庫)處理 Excel 數(shù)據(jù)時,“缺失值” 是高頻 ...
2025-09-16深入解析卡方檢驗與 t 檢驗:差異、適用場景與實踐應(yīng)用 在數(shù)據(jù)分析與統(tǒng)計學(xué)領(lǐng)域,假設(shè)檢驗是驗證研究假設(shè)、判斷數(shù)據(jù)差異是否 “ ...
2025-09-16CDA 數(shù)據(jù)分析師:掌控表格結(jié)構(gòu)數(shù)據(jù)全功能周期的專業(yè)操盤手 表格結(jié)構(gòu)數(shù)據(jù)(以 “行 - 列” 存儲的結(jié)構(gòu)化數(shù)據(jù),如 Excel 表、數(shù)據(jù) ...
2025-09-16MySQL 執(zhí)行計劃中 rows 數(shù)量的準(zhǔn)確性解析:原理、影響因素與優(yōu)化 在 MySQL SQL 調(diào)優(yōu)中,EXPLAIN執(zhí)行計劃是核心工具,而其中的row ...
2025-09-15解析 Python 中 Response 對象的 text 與 content:區(qū)別、場景與實踐指南 在 Python 進(jìn)行 HTTP 網(wǎng)絡(luò)請求開發(fā)時(如使用requests ...
2025-09-15CDA 數(shù)據(jù)分析師:激活表格結(jié)構(gòu)數(shù)據(jù)價值的核心操盤手 表格結(jié)構(gòu)數(shù)據(jù)(如 Excel 表格、數(shù)據(jù)庫表)是企業(yè)最基礎(chǔ)、最核心的數(shù)據(jù)形態(tài) ...
2025-09-15Python HTTP 請求工具對比:urllib.request 與 requests 的核心差異與選擇指南 在 Python 處理 HTTP 請求(如接口調(diào)用、數(shù)據(jù)爬取 ...
2025-09-12解決 pd.read_csv 讀取長浮點(diǎn)數(shù)據(jù)的科學(xué)計數(shù)法問題 為幫助 Python 數(shù)據(jù)從業(yè)者解決pd.read_csv讀取長浮點(diǎn)數(shù)據(jù)時的科學(xué)計數(shù)法問題 ...
2025-09-12CDA 數(shù)據(jù)分析師:業(yè)務(wù)數(shù)據(jù)分析步驟的落地者與價值優(yōu)化者 業(yè)務(wù)數(shù)據(jù)分析是企業(yè)解決日常運(yùn)營問題、提升執(zhí)行效率的核心手段,其價值 ...
2025-09-12用 SQL 驗證業(yè)務(wù)邏輯:從規(guī)則拆解到數(shù)據(jù)把關(guān)的實戰(zhàn)指南 在業(yè)務(wù)系統(tǒng)落地過程中,“業(yè)務(wù)邏輯” 是連接 “需求設(shè)計” 與 “用戶體驗 ...
2025-09-11塔吉特百貨孕婦營銷案例:數(shù)據(jù)驅(qū)動下的精準(zhǔn)零售革命與啟示 在零售行業(yè) “流量紅利見頂” 的當(dāng)下,精準(zhǔn)營銷成為企業(yè)突圍的核心方 ...
2025-09-11CDA 數(shù)據(jù)分析師與戰(zhàn)略 / 業(yè)務(wù)數(shù)據(jù)分析:概念辨析與協(xié)同價值 在數(shù)據(jù)驅(qū)動決策的體系中,“戰(zhàn)略數(shù)據(jù)分析”“業(yè)務(wù)數(shù)據(jù)分析” 是企業(yè) ...
2025-09-11Excel 數(shù)據(jù)聚類分析:從操作實踐到業(yè)務(wù)價值挖掘 在數(shù)據(jù)分析場景中,聚類分析作為 “無監(jiān)督分組” 的核心工具,能從雜亂數(shù)據(jù)中挖 ...
2025-09-10統(tǒng)計模型的核心目的:從數(shù)據(jù)解讀到?jīng)Q策支撐的價值導(dǎo)向 統(tǒng)計模型作為數(shù)據(jù)分析的核心工具,并非簡單的 “公式堆砌”,而是圍繞特定 ...
2025-09-10