python數(shù)據(jù)分析數(shù)據(jù)標(biāo)準(zhǔn)化及離散化詳解

本文為大家分享了python數(shù)據(jù)分析數(shù)據(jù)標(biāo)準(zhǔn)化及離散化的具體內(nèi)容，供大家參考，具體內(nèi)容如下
標(biāo)準(zhǔn)化
1、離差標(biāo)準(zhǔn)化
是對(duì)原始數(shù)據(jù)的線性變換，使結(jié)果映射到[0,1]區(qū)間。方便數(shù)據(jù)的處理。消除單位影響及變異大小因素影響。
基本公式為：    
x'=（x-min）/（max-min）

代碼：    
#！／user/bin/env python
#-*- coding:utf-8 -*-
#author:M10
import numpy as np
import pandas as pd
import matplotlib.pylab as plt
import mysql.connector
conn = mysql.connector.connect(host='localhost',
            user='root',
            passwd='123456',
            db='python')#鏈接本地?cái)?shù)據(jù)庫(kù)
sql = 'select price,comment from taob'#sql語(yǔ)句
data = pd.read_sql(sql,conn)#獲取數(shù)據(jù)
#離差標(biāo)準(zhǔn)化
data1 = (data-data.min())/(data.max()-data.min())
print(data1)

運(yùn)行結(jié)果

2、標(biāo)準(zhǔn)差標(biāo)準(zhǔn)化

消除單位影響以及變量自身變異影響。（零-均值標(biāo)準(zhǔn)化）
基本公式為：

x'=（x-平均數(shù)）/標(biāo)準(zhǔn)差
python代碼：    
#?。痷ser/bin/env python
#-*- coding:utf-8 -*-
#author:M10
import numpy as np
import pandas as pd
import matplotlib.pylab as plt
import mysql.connector
conn = mysql.connector.connect(host='localhost',
            user='root',
            passwd='123456',
            db='python')#鏈接本地?cái)?shù)據(jù)庫(kù)
sql = 'select price,comment from taob'#sql語(yǔ)句
data = pd.read_sql(sql,conn)#獲取數(shù)據(jù)
#標(biāo)準(zhǔn)差標(biāo)準(zhǔn)化
data1 = (data-data.mean())/data.std()
print(data1)

運(yùn)行結(jié)果：

3、小數(shù)定標(biāo)標(biāo)準(zhǔn)化

消除單位影響
基本公式為：
其中j=lg(max(|x|)),即以10為底的x的絕對(duì)值最大的對(duì)數(shù)

x' = x/10^j
實(shí)現(xiàn)代碼為：    
#?。痷ser/bin/env python
#-*- coding:utf-8 -*-
#author:M10
import numpy as np
import pandas as pd
import matplotlib.pylab as plt
import mysql.connector
conn = mysql.connector.connect(host='localhost',
            user='root',
            passwd='123456',
            db='python')#鏈接本地?cái)?shù)據(jù)庫(kù)
sql = 'select price,comment from taob'#sql語(yǔ)句
data = pd.read_sql(sql,conn)#獲取數(shù)據(jù)
#標(biāo)準(zhǔn)差標(biāo)準(zhǔn)化
j = np.ceil(np.log10(data.abs().max()))#進(jìn)一取整，abs()為取絕對(duì)值
data1 = data/10**j
print(data1)

結(jié)果：

離散化

離散化是程序設(shè)計(jì)中一個(gè)常用的技巧，它可以有效的降低時(shí)間復(fù)雜度。其基本思想就是在眾多可能的情況中，只考慮需要用的值。離散化可以改進(jìn)一個(gè)低效的算法，甚至實(shí)現(xiàn)根本不可能實(shí)現(xiàn)的算法

1、等寬離散化

將連續(xù)數(shù)據(jù)按照等寬區(qū)間標(biāo)準(zhǔn)離散化數(shù)據(jù)，好處之一是處理的數(shù)據(jù)是有限個(gè)數(shù)據(jù)而不是無(wú)限多。
使用pandas的cut方法。非等寬只需要更改cut的第二個(gè)參數(shù)，例如：第二個(gè)參數(shù)為[1,100,3000,10000,200000]，即劃分為了四個(gè)區(qū)間。

執(zhí)行結(jié)果：

2、等頻率離散化

將相同數(shù)量的數(shù)據(jù)放進(jìn)一個(gè)區(qū)間。

3、一維聚類(lèi)離散化

按屬性對(duì)數(shù)據(jù)進(jìn)行聚類(lèi)離散。

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助