Desarrollo de Python
  1. Desarrollo de Python
  3. SKAprende cómo obtener probabilidades de decisión para el clasificador LinearSVC
Intereting Posts
Python MySQLDB: Obtenga el resultado de fetchall en una lista ¿Por qué funciona esto en el shell IDLE de Python pero no cuando lo ejecuto como un script de Python desde el símbolo del sistema? ValueError at / image / Tensor Tensor (“activation_5 / Softmax: 0”, shape = (?, 4), dtype = float32) no es un elemento de este gráfico Obtener el punto de código Unicode de un personaje usando Python Encuentre el índice de un dict dentro de una lista, haciendo coincidir el valor del dict ¿Cuál es el códec para videos mp4 en python OpenCV? cómo actualizar dinámicamente un gráfico en un bucle en el cuaderno ipython (dentro de una celda) functools.partial en el método de clase Python: pasar parámetros por nombre junto con kwargs Monkey parcheando una clase en otro módulo en Python Error 400 en discord.py borrar archivo si existe; python Cómo agregar dinámicamente direcciones IP de EC2 a Django ALLOWED_HOSTS habilitando tty en una sesión ssh ¿Cómo validar la dirección IP en Python?

SKAprende cómo obtener probabilidades de decisión para el clasificador LinearSVC

Estoy utilizando el clasificador linearSVC de scikit-learn para la minería de textos. Tengo el valor y como etiqueta 0/1 y el valor X como TfidfVectorizer del documento de texto.

Yo uso una tubería como abajo 

pipeline = Pipeline([ ('count_vectorizer', TfidfVectorizer(ngram_range=(1, 2))), ('classifier', LinearSVC()) ])

Para una predicción, me gustaría obtener el puntaje de confianza o la probabilidad de que un punto de datos se clasifique como 1 en el rango (0,1)

Actualmente utilizo la función de función de decisión 

 pipeline.decision_function(test_X)

Sin embargo, devuelve valores positivos y negativos que parecen indicar confianza. Tampoco estoy muy seguro de lo que significan.

Sin embargo, ¿hay una manera de obtener los valores en el rango 0-1?

Por ejemplo, aquí está la salida de la función de decisión para algunos de los puntos de datos 

  -0.40671879072078421, -0.40671879072078421, -0.64549376401063352, -0.40610652684648957, -0.40610652684648957, -0.64549376401063352, -0.64549376401063352, -0.5468745098794594, -0.33976011539714374, 0.36781572474117097, -0.094943829974515004, 0.37728641897721765, 0.2856211778200019, 0.11775493140003235, 0.19387473663623439, -0.062620918785563556, -0.17080866610522819, 0.61791016307670399, 0.33631340372946961, 0.87081276844501176, 1.026991628346146, 0.092097790098391641, -0.3266704728249083, 0.050368652422013376, -0.046834129250376291,

Usted no puede Sin embargo, puede usar sklearn.svm.SVC con kernel='linear' y probability=True

Puede durar más, pero puede obtener probabilidades de este clasificador utilizando el método predict_proba . 

 clf=sklearn.svm.SVC(kernel='linear',probability=True) clf.fit(X,y) clf.predict_proba(X_test)

Si insiste en usar la clase LinearSVC, puede envolverlo en un objeto sklearn.calibration.CalibratedClassifierCV y ajustar el clasificador calibrado que le dará un clasificador probabilístico. 

 from sklearn.svm import LinearSVC from sklearn.calibration import CalibratedClassifierCV from sklearn import datasets #Load iris dataset iris = datasets.load_iris() X = iris.data[:, :2] # Using only two features y = iris.target #3 classes: 0, 1, 2 linear_svc = LinearSVC() #The base estimator # This is the calibrated classifier which can give probabilistic classifier calibrated_svc = CalibratedClassifierCV(linear_svc, method='sigmoid', #sigmoid will use Platt's scaling. Refer to documentation for other methods. cv=3) calibrated_svc.fit(X, y) # predict prediction_data = [[2.3, 5], [4, 7]] predicted_probs = calibrated_svc.predict_proba(prediction_data) #important to use predict_proba print predicted_probs

Aquí está la salida: 

 [[ 9.98626760e-01 1.27594869e-03 9.72912751e-05] [ 9.99578199e-01 1.79053170e-05 4.03895759e-04]]

que muestra las probabilidades para cada clase para cada punto de datos.