99久久国产综合精品麻豆,92精品成人国产在线观看

詹惠兒

2021-04-06 閱讀量: 467

線性回歸的最小二乘法法中是如何求參數(shù)θ？

問：

線性回歸的最小二乘法法中是如何求參數(shù)θ？

答：

給定一個概率分布D，假定其概率密度函數(shù)（連續(xù)分布）或概率聚集函數(shù)（離散分布）為fD，以及一個分布參數(shù)θ，我們可以從這個分布中抽出一個具有n個值的采樣X1,X2,...,Xn，通過利用fD，我們就能計算出其概率：

但是，我們可能不知道θ的值，盡管我們知道這些采樣數(shù)據(jù)來自于分布D。那么我們?nèi)绾尾拍芄烙嫵靓饶?？一個自然的想法是從這個分布中抽出一個具有n個值的采樣X1,X2,...,Xn，然后用這些采樣數(shù)據(jù)來估計θ。

一旦我們獲得，我們就能從中找到一個關(guān)于θ的估計。最大似然估計會尋找關(guān)于 θ的最可能的值（即，在所有可能的θ取值中，尋找一個值使這個采樣的“可能性”最大化）。這種方法正好同一些其他的估計方法不同，如θ的非偏估計，非偏估計未必會輸出一個最可能的值，而是會輸出一個既不高估也不低估的θ值。

要在數(shù)學上實現(xiàn)最大似然估計法，我們首先要定義可能性：