EM算法即期望最大化算法。

期望最大化（EM）算法是一種迭代方法，用于在統(tǒng)計(jì)模型中找到參數(shù)的最大似然或最大后驗(yàn)（MAP）估計(jì)，其中模型取決于未觀察到的潛在變量。EM迭代在執(zhí)行期望（E）步驟和最大化（M）步驟之間交替，期望（E）步驟創(chuàng)建用于使用參數(shù)的當(dāng)前估計(jì)評估的對數(shù)似然的期望的函數(shù)，最大化（M）步驟計(jì)算最大化預(yù)期對數(shù)的參數(shù)。在E步驟中發(fā)現(xiàn)的可能性。然后使用這些參數(shù)估計(jì)來確定下一個E步驟中潛在變量的分布。

EM算法及其擴(kuò)展是用于模態(tài)估計(jì)的流行工具，但經(jīng)常因其收斂速度慢而受到批評。我們提出了一種新方法，通?？梢允笶M更快。直觀的想法是使用“協(xié)方差調(diào)整”來糾正M步驟的分析，利用在推算的完整數(shù)據(jù)中捕獲的額外信息。我們實(shí)現(xiàn)這一目標(biāo)的方式是通過參數(shù)擴(kuò)展; 我們擴(kuò)展了完整數(shù)據(jù)模型，同時保留了觀察數(shù)據(jù)模型，并使用擴(kuò)展的完整數(shù)據(jù)模型來生成EM。這種參數(shù)擴(kuò)展的EM，PX-EM算法共享普通EM的簡單性和穩(wěn)定性，但由于其M步執(zhí)行更有效的分析，因此具有更快的收斂速度。針對多變量t示出了PX-EM算法 分布，隨機(jī)效應(yīng)模型，因子分析，概率回歸和泊松成像模型。

EM算法分以下步驟：

1.初始化分布參數(shù)
2.重復(fù)直到收斂：
E步驟：估計(jì)未知參數(shù)的期望值，給出當(dāng)前的參數(shù)估計(jì)。
M步驟：重新估計(jì)分布參數(shù)，以使得數(shù)據(jù)的似然性最大，給出未知變量的期望估計(jì)。