問(wèn)、什么是k近鄰算法？

答：

k近鄰算法簡(jiǎn)單、直觀．給定一個(gè)訓(xùn)練數(shù)據(jù)集，對(duì)新的輸入實(shí)例， 在訓(xùn)練數(shù)據(jù)集中找到與該實(shí)例最鄰近的K個(gè)實(shí)例，這k個(gè)實(shí)例的多數(shù)屬于某個(gè)類， 就把該輸入實(shí)例分為這個(gè)類．

輸入：訓(xùn)練數(shù)據(jù)集

其中，

為實(shí)例的特征向足，

為實(shí)例的類別，

i= 1,2, .. ,N, 實(shí)例特征向量x,

輸出：實(shí)例x所屬的類y.

（1）根據(jù)給定的距離度量，在訓(xùn)練集T中找出與x最鄰近的K個(gè)點(diǎn)， 涵蓋這k個(gè)點(diǎn)的x的鄰域記作凡N_K(x):

(2)在N,(x)中根據(jù)分類決策規(guī)則（如多數(shù)表決）決定x的類別y,

其中：I為指示函數(shù)，即當(dāng)y,=c, 時(shí)I為1, 否則I為0.

k近鄰法的特殊情況是k=l的情形，稱為最近鄰算法． 對(duì)于輸入的實(shí)例點(diǎn)（特征向量） X? 最近鄰法將訓(xùn)練數(shù)據(jù)集中與x最鄰近點(diǎn)的類作為x的類