machine-learning - una - svm multiclase

SVM: ¿qué es un margen funcional? (2)

"Un margen geométrico es simplemente la distancia euclidiana entre una cierta x (punto de datos) a la hiperlane".

No creo que sea una definición adecuada para el margen geométrico, y creo que eso es lo que te está confundiendo. El margen geométrico es solo una versión escalada del margen funcional.

Puede pensar en el margen funcional, como una función de prueba que le dirá si un punto en particular está clasificado correctamente o no. Y el margen geométrico es el margen funcional escalado por || w ||

Si revisas la fórmula:

Puede observar que, independientemente de la etiqueta, el resultado sería positivo para los puntos correctamente clasificados (por ejemplo, sig (1 * 5) = 1 y sig (-1 * -5) = 1) y negativo de lo contrario. Si escalas eso por || w || entonces tendrás el margen geométrico.

¿Por qué existe el margen geométrico?

Bueno, para maximizar el margen necesita más que solo el signo, necesita tener una noción de magnitud, el margen funcional le daría un número, pero sin una referencia no puede decir si el punto está muy lejos o cerca de la plano de decisión. El margen geométrico le indica no solo si el punto está clasificado correctamente o no, sino la magnitud de esa distancia en términos de unidades de | w |

Un margen geométrico es simplemente la distancia euclidiana entre una cierta x (punto de datos) a la hiperlane.

¿Cuál es la explicación intuitiva de lo que es un margen funcional?

Nota: me doy cuenta de que aquí se ha hecho una pregunta similar: ¿cómo entender el margen funcional en SVM?

Sin embargo, la respuesta dada allí explica la ecuación, pero no su significado (tal como lo entendí).

Consulte las notas de la conferencia de Andrew Ng de la conferencia 3 sobre SVM (la notación ha cambiado para que sea más fácil escribir sin mathjax / TeX en este sitio):

"Vamos a formalizar las nociones de los márgenes funcional y geométrico. Dando un ejemplo de entrenamiento (x_i, y_i) definimos el margen funcional de (w, b) con respecto al ejemplo de entrenamiento
gamma_i = y_i ((w ^ T) x_i + b)
Tenga en cuenta que si y_i > 0 entonces para que el margen funcional sea grande (es decir, para que nuestra predicción sea confiable y correcta), necesitamos que (w^T)x + b sea un número positivo grande. Por el contrario, si y_i < 0 , entonces para que el margen funcional sea grande, necesitamos que (w^T)x + b sea un número negativo grande. Por otra parte, si
y_i ((w ^ T) x_i + b)> 0
entonces nuestra predicción en este ejemplo es correcta. (Compruébalo tú mismo.) Por lo tanto, un margen funcional grande representa una predicción segura y correcta ".
Página 3 del PDF de la clase 3 vinculado en la página de materiales vinculada anteriormente.