Machine Learning - Support Vector Machine

Machine Learning - Support Vector Machine

LAVI
  2024-03-08 2024-03-08 Created   2024-09-11 2024-09-11 Updated      

Decision Boundary

任何建立模型的分類演算法都會創造 Decision Boundary 決策邊界
可以是直的或是彎曲的
決定了模型的準確性，也就是標籤預測正確的比例

Support Vector Machine, SVM 支撐向量機

用統計分類最小化的原則來估計一個分類的 hyperplane 超平面
透過找到一個 Decision Boundary 決策邊界來讓兩類之間的邊界最大化，使其可以完美區隔開

不一定是直線，有可能是曲線，不同的演算法都是在不同的假設或是條件下去找那條分類的線
SVM 是去假設有一個 hyperplane (wTx + b = 0) 可以完美分割兩組資料，所以 SVM 就是在找參數 (w 和 b) 讓兩組之間的距離最大化

圖片來源：Hundred-Page Machine learning Book by A. Burkov online book

hyperplane 超平面：在多維空間中分割空間的方法，例如二維中以線分開，三維中以平面分開，在 N 維空間中便以 (N-1) 維的超平面來做分割

Reference

On this page
Machine Learning - Support Vector Machine
  1. Decision Boundary
  2. Support Vector Machine, SVM 支撐向量機
  3. Reference