Machine Learning - Instance-Based Learning

Instance-Based Learning

只儲存 training example，當給定查詢 (query) 時，才會去尋找離 最近的 example ，然後計算

K-Nearest neighbor(kNN)

1. 給定 ，在其 個鄰居中投票 (當 是離散數值 (discrete-valued) 目標函數 (target function))
2. 取 格鄰居的 的平均值 (當 是真實數值 (real-value) 目標函數)

Advantage & Disadvantage

Advantage	Disadvantage
訓練速度很快	查詢時很慢
可以學習複雜的目標函數	很容易被無關的屬性欺騙
不會損失資訊

Algorithm

Let x = , Euclidean distance

Find nearest sotred use
當 是離散 (discrete) 時，取 most common value of
黨 是連續 (continuous) 時，計算 mean value of neighbors

Lazy Learning

一定要等到查詢進來才生成，因為他要知道你問什麼才生甚麼，所以假說空間比較難設定