SVM playgroundLaboratorio SVM

A support vector machine, primal and dual side by side. The dual is a quadratic problem over the multipliers, one per point, each in the box \([0, C]\), with \(\sum_i \alpha_i y_i = 0\); the primal surface is \(f(x) = \sum_i \alpha_i y_i K(x_i, x) + b\). SMO moves two multipliers at a time, and a point whose multiplier leaves zero becomes a support vector, which is then ringed in the plane.

Una support vector machine, con il primale e il duale affiancati. Il duale è un problema quadratico nei moltiplicatori, uno per punto, ciascuno nella scatola \([0, C]\), con \(\sum_i \alpha_i y_i = 0\); la superficie primale è \(f(x) = \sum_i \alpha_i y_i K(x_i, x) + b\). SMO muove due moltiplicatori alla volta, e un punto il cui moltiplicatore lascia lo zero diventa un vettore di supporto, che allora appare cerchiato nel piano.

Primal: the decision surface (the dark line is \(f = 0\), the lighter ones the margins \(f = \pm 1\)), the points (ringed: support vectors; red: the pair of the last step).Primale: la superficie di decisione (la linea scura è \(f = 0\), quelle più chiare i margini \(f = \pm 1\)), i punti (cerchiati: i vettori di supporto; in rosso: la coppia dell'ultimo passo).
Dual: the multipliers \(\alpha_i\) in their boxes \([0, C]\); at \(C\) a point is inside the margin or misclassified.Duale: i moltiplicatori \(\alpha_i\) nelle loro scatole \([0, C]\); a \(C\) un punto è dentro il margine o classificato male.
dual valuevalore duale
support vectorsvettori di supporto
( ata \(C\))
\(\sum_i \alpha_i y_i\)
statusstato
The lift: every point \(x\) goes up to the height \(\langle w, \varphi(x) \rangle / \|w\|\), its coordinate along \(w = \sum_i \alpha_i y_i \varphi(x_i)\) in the space of the kernel, so that the separating hyperplane becomes the plane at height \(-b / \|w\|\) and the margins the two planes \(1 / \|w\|\) above and below it. The plane cuts the lifted surface along a curve whose shadow on the floor is the boundary \(f = 0\) of the primal picture; the surface and the plane move with every SMO step.Il sollevamento: ogni punto \(x\) sale all'altezza \(\langle w, \varphi(x) \rangle / \|w\|\), la sua coordinata lungo \(w = \sum_i \alpha_i y_i \varphi(x_i)\) nello spazio del kernel, così che l'iperpiano separatore diventa il piano all'altezza \(-b / \|w\|\) e i margini i due piani a \(1 / \|w\|\) sopra e sotto di esso. Il piano taglia la superficie sollevata lungo una curva la cui ombra sul fondo è la frontiera \(f = 0\) della figura primale; la superficie e il piano si muovono a ogni passo di SMO.