tutorial - Recibiendo salida de costo aleatorio en regresión de tensorflow-python

tensorflow tutorial español (1)

Aquí hay una versión funcional del código, pero antes ofreceré algunas notas.

1) Uno lee un poco en tensorflow mnist tutorial . En particular, vea por qué los tamaños de sus marcadores de posición no son correctos y por qué vamos a usar una versión codificada en caliente de las etiquetas para esta tarea.

2) Considere usar el costo de entropía cruzada. Es un costo más adecuado para esta tarea multiclase.

3) trate de no sentirse demasiado abrumado por el rendimiento de este modelo básico (no funciona bien). Considere la posibilidad de explorar los datos en busca de características de importación y también busque el rendimiento más avanzado de este conjunto de datos.

import tensorflow as tf import pandas as pd import numpy as np import matplotlib.pyplot as plt df = pd.read_csv(''/Users/benny/desktop/export.csv'') data_ = df.iloc[1:,9:27] data_[''CRISPR''] = df.iloc[:,30] data_ = data_.drop([''Diseases''],axis=1) # we will need the number of classes to be predict # the nunique methods gets us the number of unique labels nclasses = data["CRISPR"].nunique() # lets collect of labels here. We''ll one-hot-encode them # using pandas.get_dummies() inputY = pd.get_dummies(data_.iloc[:, -1]) dim = 16 learning_rate = 0.0000001 display_step = 50 X = tf.placeholder(tf.float32, [None, dim]) # Y should define the shape of your labels. # As discussed we''re going to need one hot encoded labels for # this prediction task. this line does not define the shape of your input. # we''ll define later # Y = tf.placeholder(tf.float32) train_X = data_.iloc[:200, :-2].as_matrix() train_X = train_X.fillna(value=0) train_Y = inputY[:200].as_matrix() test_X = data_.iloc[200:320, :-2].as_matrix() test_Y = inputY[200:320].as_matrix() n_samples = train_Y.size # Its important we get the shape of the weight and bias matrices # correct, the version in code is: # W = tf.Variable(tf.zeros([dim]), name="weight") # that wont work since we want to be able to multiply [X, W] # to produce a evidence vector for each each example. # the shape of X is [200 x dim] - there should be a weight for each # feature and there 10 classes so W is [dim, nclasses], W = tf.Variable(tf.zeros([dim, nclasses])) # for the bias, there should be one for each class. # b = tf.Variable(tf.zeros([1]), name="bias") b = tf.Variable(tf.zeros([nclasses])) # the correct operation here is tf.matmal, I suspect you introduced # this to make your early matrix definiton work in the graph # activation = tf.add(tf.mul(X, W), b) activation = tf.add(tf.matmul(X, W), b) # you forgot the actual model! Assuming you want to do # softmax classification let do: y = tf.nn.softmax(activation) # Now let''s define or input labels ( we could have called them Y ) # as you had them. Notice what we are saying here is expect a matrix # of floats with any number of examples and nclasses number of columns # which is exactly the size of train_Y. y_ = tf.placeholder(tf.float32, [None, nclasses]) # we define the cost reflect the fact that our model output is called # y not activations (anymore) # cost = tf.reduce_sum(tf.pow(activation-Y, 2))/(2*n_samples) cost = tf.reduce_sum(tf.pow(y_ - y, 2))/(2*n_samples) optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost) hm_epochs = 1000 init = tf.initialize_all_variables() sess = tf.Session() sess.run(init) # I imagine what you want to do here is stochastic gradient descent. # I am not sure this is the way to do it. End to check the code I # will train over the entire training data for 1000 repetitions, # similar to the tutorial code. # ..... for i in range(hm_epochs): sess.run(optimizer, feed_dict={X: train_X, y_: train_Y}) if (i) % display_step == 0: cc = sess.run(cost, feed_dict={X: train_X,y_: train_Y}) print "Training step:", ''%04d'' % (i), "cost=", "{:.9f}".format(cc) # To check the accuracy ( this is one way of measuring the performance # of an algorithm on a classification task) we will do: (This is # adapted from the tensflow mnist example [code][1]) correct_prediction = tf.equal(tf.argmax(y, 1), tf.argmax(y_, 1)) accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32)) print(sess.run(accuracy, feed_dict={X: test_X, y_: test_Y}))

Soy relativamente nuevo en tensorflow y he intentado adaptar algunos códigos de un tutorial para procesar mis propios datos.

Los datos se pueden encontrar aquí: https://github.com/z12332/tensorflow-test-1/blob/master/export.csv

Tenga en cuenta que el conjunto de datos que se alimenta solo consta de las columnas 9 a 27 (con nan se convierte en 0) y la columna 30 como las etiquetas

aquí está el enlace al código del tutorial: https://github.com/llSourcell/How_to_use_Tensorflow_for_classification-LIVE/blob/master/demo.ipynb

Puedo hacer que el programa se ejecute sin un mensaje de error, pero por alguna razón, genera 200 pasos de entrenamiento con valores de costo relativamente aleatorios. Como y por ejemplo, aquí están los primeros pasos:

Training step: 0000 cost= 0.039999638 Training step: 0000 cost= 0.159996599 Training step: 0000 cost= 0.000000002 Training step: 0000 cost= 0.000000004 Training step: 0000 cost= 0.000000001 Training step: 0000 cost= 0.039994366 Training step: 0000 cost= 0.000000005 Training step: 0000 cost= 0.039997347 Training step: 0000 cost= 0.359970629 Training step: 0000 cost= 1.959837437 Training step: 0000 cost= 3.239814520 Training step: 0000 cost= 0.000000195 Training step: 0000 cost= 0.000000228 Training step: 0000 cost= 0.000000003 Training step: 0000 cost= 0.000000388 Training step: 0000 cost= 0.039958697 Training step: 0000 cost= 0.159986690 Training step: 0000 cost= 0.159973413 Training cost= 2.70406e-05 W= [ 2.38201610e-05 1.96683395e-05 3.69497479e-06 2.77944509e-05 2.02058782e-05 3.82550934e-05 3.37507554e-05 2.18498894e-06 2.92303273e-04 7.17514267e-05 2.34498725e-06 3.40497172e-06 6.25661269e-05 5.59996465e-07 8.81450160e-06 3.44998034e-06] b= [ 2.62004360e-05]

Aquí está mi código completo, ya que cualquiera sabe por qué sucede esto o cómo depurarlo:

¿Podrían los valores aleatorios ser de los valores perdidos (cambiado a 0 en el conjunto de datos)? Además, ¿cómo podría ahora aplicar los marcos de datos test_X, Y para predecir?

De cualquier manera estoy aquí para aprender, ¡gracias por tu ayuda!