machine - k means python example

¿Cómo pasar un parámetro a solo una parte de un objeto de canalización en scikit learn?

Question

Necesito pasar un parámetro, sample_weight , a mi RandomForestClassifier así:

X = np.array([[2.0, 2.0, 1.0, 0.0, 1.0, 3.0, 3.0, 1.0, 0.0, 0.0, 0.0, 0.0, 0.0,
        1.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0, 0.0, 5.0, 3.0,
        2.0, ''0''],
       [15.0, 2.0, 5.0, 5.0, 0.466666666667, 4.0, 3.0, 2.0, 0.0, 0.0, 0.0,
        0.0, 0.0, 1.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0, 0.0, 1.0, 0.0, 0.0,
        7.0, 14.0, 2.0, ''0''],
       [3.0, 4.0, 3.0, 1.0, 1.33333333333, 1.0, 1.0, 1.0, 0.0, 0.0, 0.0,
        0.0, 1.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0, 0.0, 0.0,
        9.0, 8.0, 2.0, ''0''],
       [3.0, 2.0, 3.0, 0.0, 0.666666666667, 2.0, 2.0, 1.0, 0.0, 0.0, 0.0,
        0.0, 1.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0, 0.0, 0.0,
        5.0, 3.0, 1.0, ''0'']], dtype=object)

y = np.array([ 0.,  0.,  1.,  0.])

m = sklearn.ensemble.RandomForestClassifier(
        random_state=0, 
        oob_score=True, 
        n_estimators=100,
        min_samples_leaf=5, 
        max_depth=10)

m.fit(X, y, sample_weight=np.array([3,4,2,3]))

El código anterior funciona perfectamente bien. Luego, trato de hacer esto en un objeto de canalización así, usando un objeto de canalización en lugar de solo bosque aleatorio:

m = sklearn.pipeline.Pipeline([
    (''feature_selection'', sklearn.feature_selection.SelectKBest(
        score_func=sklearn.feature_selection.f_regression,
        k=25)),
    (''model'', sklearn.ensemble.RandomForestClassifier(
        random_state=0, 
        oob_score=True, 
        n_estimators=500,
        min_samples_leaf=5, 
        max_depth=10))])

m.fit(X, y, sample_weight=np.array([3,4,2,3]))

Ahora esto se rompe en el método de fit con " ValueError: need more than 1 value to unpack ".

ValueError                                Traceback (most recent call last)
<ipython-input-212-c4299f5b3008> in <module>()
     25         max_depth=10))])
     26 
---> 27 m.fit(X, y, sample_weights=np.array([3,4,2,3]))

/usr/local/lib/python2.7/dist-packages/sklearn/pipeline.pyc in fit(self, X, y, **fit_params)
    128         data, then fit the transformed data using the final estimator.
    129         """
--> 130         Xt, fit_params = self._pre_transform(X, y, **fit_params)
    131         self.steps[-1][-1].fit(Xt, y, **fit_params)
    132         return self

/usr/local/lib/python2.7/dist-packages/sklearn/pipeline.pyc in _pre_transform(self, X, y, **fit_params)
    113         fit_params_steps = dict((step, {}) for step, _ in self.steps)
    114         for pname, pval in six.iteritems(fit_params):
--> 115             step, param = pname.split(''__'', 1)
    116             fit_params_steps[step][param] = pval
    117         Xt = X

ValueError: need more than 1 value to unpack

Estoy usando sklearn versión 0.14 .
Creo que el problema es que el paso de F selection en la tubería no incluye un argumento para sample_weights. ¿Cómo paso este parámetro a solo un paso en la tubería con "ejecutar"? Gracias.

Answer 1

De la documentación:

El propósito de la tubería es ensamblar varios pasos que se pueden validar de forma cruzada al mismo tiempo que se establecen diferentes parámetros. Para esto, permite establecer parámetros de los diversos pasos usando sus nombres y el nombre del parámetro separado por un ''__'' , como en el ejemplo a continuación.

Así que puedes simplemente insertar el model__ delante de los kwargs de parámetros de ajuste que quieras pasar a tu paso ''model'' :

m.fit(X, y, model__sample_weight=np.array([3,4,2,3]))