回歸分析和相關(guān)分析_數(shù)據(jù)分析師培訓(xùn)

回歸分析和相關(guān)分析是互相補充、密切聯(lián)系的，相關(guān)分析需要回歸分析來表明現(xiàn)象數(shù)量關(guān)系的具體形式，而回歸分析則應(yīng)該建立在相關(guān)分析的基礎(chǔ)上。
      主要區(qū)別有:一,在回歸分析中,不僅要根據(jù)變量的地位,作用不同區(qū)分出自變量和因變量,把因變量置于被解釋的特殊地位,而且以因變量為隨機變量,同時總假定自變量是非隨機的可控變量.在相關(guān)分析中,變量間的地位是完全平等的,不僅無自變量和因變量之分,而且相關(guān)變量全是隨機變量. 二,相關(guān)分析只限于描述變量間相互依存關(guān)系的密切程度,至于相關(guān)變量間的定量聯(lián)系關(guān)系則無法明確反映.而回歸分析不僅可以定量揭示自變量對應(yīng)變量的影響大小,還可以通過回歸方程對變量值進(jìn)行預(yù)測和控制.

    相關(guān)分析與回歸分析均為研究2個或多個變量間關(guān)聯(lián)性的方法，但2種數(shù)理統(tǒng)計方法存在本質(zhì)的差別，即它們用于不同的研究目的。(CDA數(shù)據(jù)分析師培訓(xùn))相關(guān)分析的目的在于檢驗兩個隨機變量的共變趨勢（即共同變化的程度），回歸分析的目的則在于試圖用自變量來預(yù)測因變量的值。

    在相關(guān)分析中，兩個變量必須同時都是隨機變量，如果其中的一個變量不是隨機變量，就不能進(jìn)行相關(guān)分析，這是相關(guān)分析方法本身所決定的。對于回歸分析，其中的因變量肯定為隨機變量（這是回歸分析方法本身所決定的），而自變量則可以是普通變量（有確定的取值）也可以是隨機變量。

    在統(tǒng)計學(xué)教科書中習(xí)慣把相關(guān)與回歸分開論述，其實在應(yīng)用時，當(dāng)兩變量都是隨機變量時，常需同時給出這兩種方法分析的結(jié)果；

     如果自變量是普通變量，即模型Ⅰ回歸分析，采用的回歸方法就是最為常用的最小二乘法。如果自變量是隨機變量，即模型Ⅱ回歸分析，所采用的回歸方法與計算者的目的有關(guān)。在以預(yù)測為目的的情況下，仍采用“最小二乘法”（但精度下降—最小二乘法是專為模型Ⅰ 設(shè)計的，未考慮自變量的隨機誤差）；在以估值為目的（如計算可決系數(shù)、回歸系數(shù)等）的情況下，應(yīng)使用相對嚴(yán)謹(jǐn)?shù)姆椒ǎㄈ纭爸鬏S法”、“約化主軸法”或“Bartlett法” ）。顯然，對于回歸分析，如果是模型Ⅱ回歸分析，鑒于兩個隨機變量客觀上存在“相關(guān)性”問題，只是由于回歸分析方法本身不能提供針對自變量和因變量之間相關(guān)關(guān)系的準(zhǔn)確的檢驗手段，因此，若以預(yù)測為目的，最好不提“相關(guān)性”問題；若以探索兩者的“共變趨勢”為目的，應(yīng)該改用相關(guān)分析。如果是模型Ⅰ回歸分析，就根本不可能回答變量的“相關(guān)性”問題，因為普通變量與隨機變量之間不存在“相關(guān)性”這一概念（問題在于，大多數(shù)的回歸分析都是模型Ⅰ回歸分析?。４藭r，即使作者想描述2個變量間的“共變趨勢”而改用相關(guān)分析，也會因相關(guān)分析的前提不存在而使分析結(jié)果毫無意義。

    需要特別指出的是，回歸分析中的R2在數(shù)學(xué)上恰好是Pearson積矩相關(guān)系數(shù)r的平方。因此，這極易使作者們錯誤地理解R2的含義，認(rèn)為R2就是 “相關(guān)系數(shù)”或“相關(guān)系數(shù)的平方”。問題在于，對于自變量是普通變量（即其取值有確定性的變量）、因變量為隨機變量的模型Ⅰ回歸分析，2個變量之間的“相關(guān)性”概念根本不存在，又何談“相關(guān)系數(shù)”呢？更值得注意的是，一些早期的教科書作者不是用R2來描述回歸效果（擬合程度，擬合度）的，而是用Pearson積矩相關(guān)系數(shù)來描述。這就更容易誤導(dǎo)讀者。
 
     一個不顯著的相關(guān)系數(shù)不一定意味著變量間沒有關(guān)系  可能有三種情況：1，真的沒有關(guān)系，2，有一定線性關(guān)系，由于樣本小、誤差大而未能檢驗出，3，可能是非線性關(guān)系。
 而一個顯著的回歸并不一定具有實踐的預(yù)測、控制意義，還要看決定系數(shù)的