作者：Python進(jìn)階者

來源：Python爬蟲與數(shù)據(jù)挖掘

前言

前幾天有個學(xué)生娃子找我?guī)兔ψ鳇c(diǎn)可視化的作業(yè)，作業(yè)內(nèi)容包括采集網(wǎng)易云音樂熱評評論內(nèi)容，數(shù)據(jù)量1W作業(yè)足夠，然后就是做點(diǎn)數(shù)據(jù)分析相關(guān)的工作即可。這份大作業(yè)里邊有網(wǎng)絡(luò)爬蟲，有數(shù)據(jù)分析和數(shù)據(jù)處理，還有可視化，算是一個大實驗了，還需要上交實驗報告。

數(shù)據(jù)來源

首先是數(shù)據(jù)來源，來自網(wǎng)易云音樂熱評，代碼這里就不放出來了，調(diào)用了API獲取的，抓取難度就少了許多，這里不在贅述了。

分析過程

時間處理

下面的代碼主要是評論時間分布，主要是針對時間列做了數(shù)據(jù)處理，常規(guī)操作，你也對照的去以日期和月份去挖掘下有意思的事情。

import pandas as pd from pyecharts import Line # 讀取數(shù)據(jù) df = pd.read_csv('music_comments.csv', header=None, names=['name', 'userid', 'age', 'gender', 'city', 'text', 'comment', 'commentid', 'praise', 'date'], encoding='utf-8-sig') # 根據(jù)評論ID去重 df = df.drop_duplicates('commentid')
df = df.dropna() # 獲取時間 df['time'] = [int(i.split(' ')[1].split(':')[0]) for i in df['date']] # 分組匯總 date_message = df.groupby(['time'])
date_com = date_message['time'].agg(['count'])
date_com.reset_index(inplace=True) # 繪制走勢圖 attr = date_com['time']
v1 = date_com['count']
line = Line("歌曲被爆抄襲后-評論的時間分布", title_pos='center', title_top='18', width=800, height=400)
line.add("", attr, v1, is_smooth=True, is_fill=True, area_color="#000", is_xaxislabel_align=True, xaxis_min="dataMin", area_opacity=0.3, mark_point=["max"], mark_point_symbol="pin", mark_point_symbolsize=55)
line.render("歌曲被爆抄襲后-評論的時間分布.html")

運(yùn)行之后，得到的效果圖如下所示：

可以看到評論的小伙伴喜歡在下午臨近下班和晚上的時候進(jìn)行評論。

用戶評論數(shù)量

代碼和上面差不多，只需要更改下數(shù)據(jù)即可。

import pandas as pd # 讀取數(shù)據(jù) df = pd.read_csv('music_comments.csv', header=None, names=['name', 'userid', 'age', 'gender', 'city', 'text', 'comment', 'commentid', 'praise', 'date'], encoding='utf-8-sig') # 根據(jù)評論ID去重 df = df.drop_duplicates('commentid')
df = df.dropna() # 分組匯總 user_message = df.groupby(['userid'])
user_com = user_message['userid'].agg(['count'])
user_com.reset_index(inplace=True)
user_com_last = user_com.sort_values('count', ascending=False)[0:10]
print(user_com_last)

運(yùn)行之后，得到的結(jié)果如下所示：

可以看到有忠粉，狂粉，評論數(shù)據(jù)上百，恐怖如斯。

評論詞云

詞云這個老生常談了，經(jīng)常做，直接套用模板，改下底圖即可，代碼如下：

from wordcloud import WordCloud import matplotlib.pyplot as plt import pandas as pd import random import jieba # 設(shè)置文本隨機(jī)顏色 def random_color_func(word=None, font_size=None, position=None, orientation=None, font_path=None, random_state=None): h, s, l = random.choice([(188, 72, 53), (253, 63, 56), (12, 78, 69)]) return "hsl({}, {}%, {}%)".format(h, s, l) # 讀取信息 df = pd.read_csv('music_comments.csv', header=None, names=['name', 'userid', 'age', 'gender', 'city', 'text', 'comment', 'commentid', 'praise', 'date'], encoding='utf-8-sig') # 根據(jù)評論ID去重 df = df.drop_duplicates('commentid')
df = df.dropna()
words = pd.read_csv('chineseStopWords.txt', encoding='gbk', sep='t', names=['stopword']) # 分詞 text = '' for line in df['comment']:
    text += ' '.join(jieba.cut(str(line), cut_all=False)) # 停用詞 stopwords = set('')
stopwords.update(words['stopword'])
backgroud_Image = plt.imread('music.jpg')

wc = WordCloud(
    background_color='white',
    mask=backgroud_Image,
    font_path='FZSTK.TTF',
    max_words=2000,
    max_font_size=250,
    min_font_size=15,
    color_func=random_color_func,
    prefer_horizontal=1,
    random_state=50,
    stopwords=stopwords
)

wc.generate_from_text(text) # img_colors = ImageColorGenerator(backgroud_Image) # 看看詞頻高的有哪些 process_word = WordCloud.process_text(wc, text)
sort = sorted(process_word.items(), key=lambda e: e[1], reverse=True)
print(sort[:50])
plt.imshow(wc)
plt.axis('off')
wc.to_file("網(wǎng)易云音樂評論詞云.jpg")
print('生成詞云成功!')

最后生成的詞云圖如下所示：

用戶年齡

代碼和上面差不多，只需要更改下數(shù)據(jù)即可，這里直接放效果圖了，如下圖所示：

感覺還是年輕的粉絲居多??！

地區(qū)分布

這個代碼稍微復(fù)雜一些了，畢竟涉及到地圖，代碼如下：

import pandas as pd from pyecharts import Map def city_group(cityCode): """
    城市編碼
    """ city_map = { '11': '北京', '12': '天津', '31': '上海', '50': '重慶', '5e': '重慶', '81': '香港', '82': '澳門', '13': '河北', '14': '山西', '15': '內(nèi)蒙古', '21': '遼寧', '22': '吉林', '23': '黑龍江', '32': '江蘇', '33': '浙江', '34': '安徽', '35': '福建', '36': '江西', '37': '山東', '41': '河南', '42': '湖北', '43': '湖南', '44': '廣東', '45': '廣西', '46': '海南', '51': '四川', '52': '貴州', '53': '云南', '54': '西藏', '61': '陜西', '62': '甘肅', '63': '青海', '64': '寧夏', '65': '新疆', '71': '臺灣', '10': '其他',
    }
    cityCode = str(cityCode) return city_map[cityCode[:2]] # 讀取數(shù)據(jù) df = pd.read_csv('music_comments.csv', header=None, names=['name', 'userid', 'age', 'gender', 'city', 'text', 'comment', 'commentid', 'praise', 'date'], encoding='utf-8-sig') # 根據(jù)評論ID去重 df = df.drop_duplicates('commentid')
df = df.dropna() # 進(jìn)行省份匹配 df['location'] = df['city'].apply(city_group) # 分組匯總 loc_message = df.groupby(['location'])
loc_com = loc_message['location'].agg(['count'])
loc_com.reset_index(inplace=True) # 繪制地圖 value = [i for i in loc_com['count']]
attr = [i for i in loc_com['location']]
print(value)
print(attr)
map = Map("歌曲被爆抄襲后評論用戶的地區(qū)分布圖", title_pos='center', title_top=0)
map.add("", attr, value, maptype="china", is_visualmap=True, visual_text_color="#000", is_map_symbol_show=False, visual_range=[0, 60])
map.render('歌曲被爆抄襲后評論用戶的地區(qū)分布圖.html')

最后得到的效果圖如下所示：

可以看到四川、廣東省的評論數(shù)量居多。

粉絲性別

代碼和上面的差不多，這里不再贅述，直接上效果圖了。

可以看到女粉絲占據(jù)了大頭。

總結(jié)

大家好，我是Python進(jìn)階者。這篇文章主要基于網(wǎng)易云熱評數(shù)據(jù)，利用了Python中的數(shù)據(jù)處理庫pandas進(jìn)行數(shù)據(jù)處理和分析，并利用可視化庫pyecharts給大家分享了相關(guān)圖形的制作方法，并發(fā)現(xiàn)了一些有趣的數(shù)據(jù)分析結(jié)果。