scikit-learn - multiclass - roc curve svm python

scikit-learn roc_curve: ¿por qué devuelve un valor de umbral=2 en algún momento?

Question

Corrígeme si me equivoco: los "umbrales" devueltos por roc_curve de scikit-learn deben ser una matriz de números que están en [0,1]. Sin embargo, a veces me da una matriz con el primer número cerca de "2". ¿Es un error o lo hice mal? Gracias.

In [1]: import numpy as np
In [2]: from sklearn.metrics import roc_curve
In [3]: np.random.seed(11)
In [4]: aa = np.random.choice([True, False],100)
In [5]: bb = np.random.uniform(0,1,100)
In [6]: fpr,tpr,thresholds = roc_curve(aa,bb)
In [7]: thresholds
Out[7]:
array([ 1.97396826, 0.97396826, 0.9711752 , 0.95996265, 0.95744405,
0.94983331, 0.93290463, 0.93241372, 0.93214862, 0.93076592,
0.92960511, 0.92245024, 0.91179548, 0.91112166, 0.87529458,
0.84493853, 0.84068543, 0.83303741, 0.82565223, 0.81096657,
0.80656679, 0.79387241, 0.77054807, 0.76763223, 0.7644911 ,
0.75964947, 0.73995152, 0.73825262, 0.73466772, 0.73421299,
0.73282534, 0.72391126, 0.71296292, 0.70930102, 0.70116428,
0.69606617, 0.65869235, 0.65670881, 0.65261474, 0.6487222 ,
0.64805644, 0.64221486, 0.62699782, 0.62522484, 0.62283401,
0.61601839, 0.611632 , 0.59548669, 0.57555854, 0.56828967,
0.55652111, 0.55063947, 0.53885029, 0.53369398, 0.52157349,
0.51900774, 0.50547317, 0.49749635, 0.493913 , 0.46154029,
0.45275916, 0.44777116, 0.43822067, 0.43795921, 0.43624093,
0.42039077, 0.41866343, 0.41550367, 0.40032843, 0.36761763,
0.36642721, 0.36567017, 0.36148354, 0.35843793, 0.34371331,
0.33436415, 0.33408289, 0.33387442, 0.31887024, 0.31818719,
0.31367915, 0.30216469, 0.30097917, 0.29995201, 0.28604467,
0.26930354, 0.2383461 , 0.22803687, 0.21800338, 0.19301808,
0.16902881, 0.1688173 , 0.14491946, 0.13648451, 0.12704826,
0.09141459, 0.08569481, 0.07500199, 0.06288762, 0.02073298,
0.01934336])

Answer 1

De la documentación:

thresholds: array, shape = [n_thresholds] Umbrales decrecientes en la función de decisión utilizada para calcular fpr y tpr. thresholds[0] no representan instancias que se pronostiquen y se ajusta arbitrariamente a max(y_score) + 1 .

Entonces, el primer elemento de los thresholds es cerca de 2 porque es max(y_score) + 1 , en su caso los thresholds[1] + 1 .

Answer 2

La mayoría de las veces estos umbrales no se utilizan, por ejemplo, al calcular el área bajo la curva, o al trazar la Tasa de Falso Positivo contra la Tasa de Positiva Verdadera.

Sin embargo, para trazar lo que parece una curva razonable, se necesita tener un umbral que incorpore 0 puntos de datos. Dado que la función de curva ROC de Scikit-Learn no necesita tener probabilidades normalizadas para los umbrales (cualquier puntuación es buena), establecer el umbral de este punto en 1 no es suficiente; configurarlo en inf es sensato, pero los codificadores a menudo esperan datos finitos (y es posible que la implementación también funcione para umbrales enteros). En cambio, la implementación usa max(score) + epsilon donde epsilon = 1 . Esto puede ser estéticamente deficiente, pero no has dado ninguna razón por la cual es un problema.

Answer 3

esto me parece un error: en roc_curve (aa, bb), 1 se agrega al primer umbral. Debería crear un problema aquí https://github.com/scikit-learn/scikit-learn/issues