gradientboostingclassifier - Modelos que regresan usados ​​en adaboost python

adaboost mh python

Question

Después de aplicar adaboost en svm, quiero conocer los modelos (sus parámetros) utilizados en el algoritmo de adaboost.

ada=AdaBoostClassifier(n_estimators=10, base_estimator=SVC(probability=True)) 
ada.fit(x_train,y_train)

¿Cómo puedo encontrar los modelos usados ​​en el adaboost? Gracias

Answer 1

El campo estimators_ de su objeto AdaBoostClassifier contiene cada uno de sus modelos. Ver los detalles de esos modelos dependerá de lo que se usó para construirlos. Entonces, por ejemplo, es posible que necesite ver cómo buscar cómo obtener información para un DecisionTreeClassifier en el siguiente ejemplo:

>>> from sklearn.datasets import load_iris
>>> from sklearn.ensemble import AdaBoostClassifier
>>> 
>>> iris = load_iris()
>>> clf = AdaBoostClassifier(n_estimators=2)
>>> clf.fit(iris.data, iris.target)
AdaBoostClassifier(algorithm=''SAMME.R'',
          base_estimator=DecisionTreeClassifier(compute_importances=None, criterion=''gini'',
            max_depth=1, max_features=None, min_density=None,
            min_samples_leaf=1, min_samples_split=2, random_state=None,
            splitter=''best''),
          learning_rate=1.0, n_estimators=2, random_state=None)
>>> clf.estimators_
[DecisionTreeClassifier(compute_importances=None, criterion=''gini'',
            max_depth=1, max_features=None, min_density=None,
            min_samples_leaf=1, min_samples_split=2, random_state=None,
            splitter=''best''), DecisionTreeClassifier(compute_importances=None, criterion=''gini'',
            max_depth=1, max_features=None, min_density=None,
            min_samples_leaf=1, min_samples_split=2, random_state=None,
            splitter=''best'')]
>>> 
>>> #first model
... clf.estimators_[0]
DecisionTreeClassifier(compute_importances=None, criterion=''gini'',
            max_depth=1, max_features=None, min_density=None,
            min_samples_leaf=1, min_samples_split=2, random_state=None,
            splitter=''best'')
>>> #second model
... clf.estimators_[1]
DecisionTreeClassifier(compute_importances=None, criterion=''gini'',
            max_depth=1, max_features=None, min_density=None,
            min_samples_leaf=1, min_samples_split=2, random_state=None,
            splitter=''best'')