machine-learning - parametro - support vector regression

¿Cuál de los parámetros en LibSVM es la variable slack?

Question

Estoy un poco confundido acerca de los nombres en el SVM. Estoy usando esta biblioteca LibSVM . Hay tantos parámetros que se pueden establecer. ¿Alguien sabe cuál de estas es la variable floja? Gracias

Answer 1

La "variable slack" es C en c-svm y nu en nu-SVM. Ambos cumplen la misma función en sus respectivas formulaciones, controlando la compensación entre un margen amplio y un error clasificador. En el caso de C, generalmente se prueba en órdenes de magnitud, digamos 10 ^ -4, 10 ^ -3, 10 ^ -2, ... a 1, 5 o más. nu es un número entre 0 y 1, generalmente de .1 a .8, que controla la relación de vectores de soporte a puntos de datos. Cuando nu es .1, el margen es pequeño, el número de vectores de soporte será un pequeño porcentaje del número de puntos de datos. Cuando nu es .8, el margen es muy grande y la mayoría de los puntos caerán en el margen.

Las otras cosas a considerar son su elección de kernel (lineal, RBF, sigmoide, polinomio) y los parámetros para el kernel elegido. En general, uno tiene que experimentar mucho para encontrar la mejor combinación de parámetros. Sin embargo, tenga cuidado de ajustar demasiado a su conjunto de datos.

Burges escribió un gran tutorial: Un tutorial sobre máquinas de vectores de apoyo para el reconocimiento de patrones

Pero si solo quiere saber cómo usarlo y menos sobre cómo funciona, lea "Una guía práctica para respaldar la clasificación de vectores" de Chih-Wei Hsu, Chih-Chung Chang y Chih-Jen Lin (autores de libsvm)

Answer 2

Primero decida qué tipo de SVM tiene la intención de usar: C-SVC, nu-SVC, epsilon-SVR o nu-SVR. En mi opinión, necesitas variar C y gamma la mayor parte del tiempo ... el resto suele ser fijo.