數(shù)據(jù)分析之_離群值（Outliers） BoxPlot_數(shù)據(jù)分析師

一：什么是Outliers

Outliers是統(tǒng)計學(xué)專業(yè)術(shù)語，是指相比一組數(shù)據(jù)中的其它數(shù)據(jù)的極限值

 

二：極限值意味什么

 1. 決定哪些值是Outliers是一個主觀行為，有一些基準(zhǔn)數(shù)據(jù)來決定是否一個值是一個Outliers，這些基準(zhǔn)是任意選擇的，比如P<=0.5就是一個任意選擇的基準(zhǔn)

2. 一個基準(zhǔn)是用BoxPlot來決定適度離群值（mild Outliers）和極限離群值（extreme Outliers），適度離群值是任何值1.5倍大于基于剩下所有的值的IQR，極限離群值是任何值3倍大于剩下所有的值的IQR，IQR（Interquartile Range）代表四分位數(shù)間距，是這些值中的50%中間值，分別是Q1-25%, Median-50%,Q3-75%, IQR=Q3-Q1

 

三：使用Box Plot來發(fā)現(xiàn)Outliers

一個典型的Box Plot是基于以下五個值計算而來的

a. 一組樣本的最小值

b. 一組樣本的最大值

c. 一組樣本的中值

d. 下四分位數(shù)（Lower Quartile / Q1）

e. 上四分位數(shù)（Upper Quartile / Q3）

根據(jù)這五個值構(gòu)建出來基本的Box Plot，某些圖形軟件還會顯示平均值，IQR= Q3 – Q1

顯然超出上下四分位數(shù)的值可以看做為Outliers。我們通過眼睛就可以很好的觀察到這些Outliers值的點。

 

一個顯示適度和極限Outliers值的Box plot顯示如下：

四：示例說明及JfreeChart的實現(xiàn)

假設(shè)一組數(shù)據(jù)為：2,4,6,8,12,14,16,18,20,25,45

中值 Median = 14

Q1-下四分位數(shù)（11 * 0.25 = 3） = 7

Q3-上四分位數(shù)（11 * 0.75 = 9） =19

IQR（Q3 – Q1） = 12

1.5 * IQR = 18

最小值（6 – 1.5 * IQR）= 2

最大值（20 + 1.5 * IQR）= 25

很顯然值45是一個適度Outliers

對比的一組數(shù)據(jù)為：2,4,6,8,12,14,16,18,20,25,26

 

 

從圖上可以看出Series0的數(shù)據(jù)存在Outliers，一個紅色三角形已經(jīng)表明

同樣Series1的數(shù)據(jù)是一組非常好的數(shù)據(jù)，沒有Outliers.

 

下面是Java源代碼：

package com.dataanalysis.plots; import java.awt.Font; import java.util.ArrayList; import java.util.List; import org.jfree.chart.ChartPanel; import org.jfree.chart.JFreeChart; import org.jfree.chart.axis.CategoryAxis; import org.jfree.chart.axis.NumberAxis; import org.jfree.chart.labels.BoxAndWhiskerToolTipGenerator; import org.jfree.chart.plot.CategoryPlot; import org.jfree.chart.renderer.category.BoxAndWhiskerRenderer; import org.jfree.data.statistics.BoxAndWhiskerCategoryDataset; import org.jfree.data.statistics.DefaultBoxAndWhiskerCategoryDataset; import org.jfree.ui.ApplicationFrame; import org.jfree.ui.RefineryUtilities; public class BoxAndWhiskerDemo extends ApplicationFrame {     /** *   */ private static final long serialVersionUID = -3205574763811416266L;     /**      * Creates a new demo.      *      * @param title  the frame title.      */     public BoxAndWhiskerDemo(final String title) {         super(title);                  final BoxAndWhiskerCategoryDataset dataset = createSampleDataset();         final CategoryAxis xAxis = new CategoryAxis("Type");         final NumberAxis yAxis = new NumberAxis("Value");         yAxis.setAutoRangeIncludesZero(false);         final BoxAndWhiskerRenderer renderer = new BoxAndWhiskerRenderer();         renderer.setFillBox(false);         renderer.setToolTipGenerator(new BoxAndWhiskerToolTipGenerator());         final CategoryPlot plot = new CategoryPlot(dataset, xAxis, yAxis, renderer);         final JFreeChart chart = new JFreeChart(             "Box-and-Whisker Demo",             new Font("SansSerif", Font.BOLD, 14),             plot,             true         );         final ChartPanel chartPanel = new ChartPanel(chart);         chartPanel.setPreferredSize(new java.awt.Dimension(450, 270));         setContentPane(chartPanel);     }     /**      * Creates a sample dataset.      *       * @return A sample dataset.      */     private BoxAndWhiskerCategoryDataset createSampleDataset() {                  final int seriesCount = 2;         final int categoryCount = 4;         double[] data = null;         final DefaultBoxAndWhiskerCategoryDataset dataset              = new DefaultBoxAndWhiskerCategoryDataset();         for (int i = 0; i < seriesCount; i++) {         if(i == 0) {         data = new double[]{2,4,6,8,12,14,16,18,20,25,45};         } else {         data = new double[]{2,4,6,8,12,14,16,18,20,25,26};         }                     for (int j = 0; j < categoryCount; j++) {                 final List list = new ArrayList();                 for (int k = 0; k < data.length; k++) {                     list.add(new Double(data[k]));                 }                 dataset.add(list, "Series " + i, " Type " + j);             }                      }         return dataset;     }     /**      * For testing from the command line.      *      * @param args  ignored.      */     public static void main(final String[] args) {         final BoxAndWhiskerDemo demo = new BoxAndWhiskerDemo("Box-and-Whisker Chart Demo");         demo.pack();         RefineryUtilities.centerFrameOnScreen(demo);         demo.setVisible(true);     } }