作者：丁點helper 

來源：丁點幫你

線性回歸，可能是統(tǒng)計學上運用最廣泛的一類方法了，之所以說它是一類方法，是因為它包括了我們熟知的各種模型：簡單線性回歸、多重線性回歸、Logistic回歸等等。

線性回歸運用這么廣泛很大程度在于它的內(nèi)在邏輯十分簡單。一般情況下，就是找Y的影響因素或者說是衡量自變量（X）對因變量（Y）的影響程度，即便不理解其中的數(shù)學計算也可以很容易地憑借各種軟件找到我們想要的結(jié)果。

確實如此，線性回歸，尤其是一般線性模型（一個Y，多個X）使用起來沒什么障礙，但大家是否完全理解清楚了所有應該掌握的內(nèi)容（非數(shù)學計算）可能有待思考，這個系列的文章我們以“線性回歸”為主題，希望能讓大家對這個問題的認識能再全面一丁點。

回歸一詞的來源

初學的小伙伴有沒有思考過，為什么叫“回歸”？

回歸，這個詞，英文叫“Regression”，最早出現(xiàn)在1886年英國遺傳學家Francis Galton發(fā)表的一篇研究身高的論文（”Regression towards mediocrity in hereditary stature”），他發(fā)現(xiàn)子女的身高會向整個群體身高的均值回歸。

什么叫均值回歸？

大家是否想過人類生活繁衍了無數(shù)代，但總體來看，成年男子的身高并沒有發(fā)生太大的變化，基本穩(wěn)定在1米6至1米8（暫不考慮人種差異）。

這種現(xiàn)象很大程度就是因為存在均值回歸，即身高較高的父母雖然子女也比較高，但往往比父母矮；身高較矮的父母，其子女的身高往往比父母高。

所以，這里的均值回歸，就是指子代的身高會向整個人類的平均身高靠攏的趨勢。

換句話講：姚明的孩子大概率會比姚明矮、潘長江的孩子大概率會比潘長江高。

因此，正是因為身高的均值回歸現(xiàn)象（向整個群體的平均身高回歸），整個人類的身高水平才能比較均衡。

倘若，個子高的父親生的孩子比自己還高，而個子矮的父親生的孩子比自己還矮，那么整個人類的身高就會呈現(xiàn)“兩極分化”的態(tài)勢：要么特別高、要么特別矮。

由此來看，最早的“回歸”實際上描述的是一種“現(xiàn)象“，即人們的身高不會無限制地上升或降低，而是會朝著平均水平回歸。

當然，這種現(xiàn)象并不僅限于“身高”，我們身邊的很多現(xiàn)象都有向均值回歸的趨勢。比如考試成績，一般來講，成績很難持續(xù)提升或下降，而是大概率呈現(xiàn)波動狀態(tài)，維持在一個平均水平。

而現(xiàn)如今，回歸更多是指代一種“方法”，即研究兩個或兩個以上變量相關關系的方法。以一個變量為因變量（Y），另一個或一些變量為自變量（X），構(gòu)建一個方程——左邊為Y，右邊為X，通過計算X的系數(shù)來估計X對Y的影響。

比如通過父母的平均身高來估計子女的身高。我們以父母的平均身高為“X”，以孩子的身高為“Y”，然后探討這兩個變量之間的線性關系，這就是一個典型的回歸模型。

Francis Galton的研究——父母平均身高與子女身高的回歸線

區(qū)分總體和樣本

在剛開始接觸統(tǒng)計的時候，我們會經(jīng)常強調(diào)一對概念——總體和樣本。但是，這個問題在做回歸時可能會被忽略。

因為無論做哪種統(tǒng)計分析，我們獲得數(shù)據(jù)幾乎永遠都是”樣本數(shù)據(jù)“：統(tǒng)計量的大小僅僅反映了這組數(shù)據(jù)的情況。

比如，我們想考察”教育年限（X）“與”收入（Y）“是否存在相關關系。通過抽樣，獲得了兩組數(shù)據(jù)（例如1000名對象的教育年限和目前的月收入），得出相關系數(shù)為0.8。

但是，這個相關系數(shù)僅僅反映了這1000名對象的情況，對于所有人（即我們研究的總體），這個相關關系是否仍然成立？

所以，我們必須要進行檢驗，即相關系數(shù)的假設檢驗。因為我們關心的是相關關系的有無，所以，最主要的是檢驗總體相關系數(shù)是否為0（H0假設）。因為”0“代表無關，只要不為”0“，就證明總體數(shù)據(jù)的相關關系存在。

同樣的，我們也可以用獲得的這1000名對象的數(shù)據(jù)，做回歸分析，以”教育年限“（X）為自變量，以”月收入“（Y）為因變量，得到回歸方程：Y = 2000+200X+ε

這里，我們最關注的是X的回歸系數(shù)——200。

這里的200，意味著教育程度每增加一年，月收入增加200元。

但是，這個關系也只是反映了這1000名研究對象的情況，對于所有人，是否教育程度每增加一年，月收入都會增加200元？

這就有待進行假設檢驗，同樣我們也是關注：總體回歸系數(shù)是否為0。

因此，在接觸回歸的第一步，我們需要明確，自己手頭上數(shù)據(jù)所獲得的回歸方程僅僅是一個樣本的情況。

如果重復抽樣，再進行相同的回歸分析，就會得到另一個回歸方程。

也就是說，目前得到的這個回歸方程（以及其中的回歸系數(shù)），它是可變的，是一個樣本值，隨著樣本的變化而變化。也正因為此，我們才需要對回歸系數(shù)進行檢驗。

實際上，教科書對總體回歸和樣本回歸也有著清晰地區(qū)分，就連方程的術語和符號也不例外：

所以，”戴帽子“(^)的都是樣本值，或者說是總體的估計值。

理清了這一點，才能更好地搞懂回歸系數(shù)的假設檢驗等問題。

最后出個題目考考大家，當我們做回歸系數(shù)（β）的假設檢驗時，下面A、B兩種寫法哪種正確：