Articles of recurrent neural network

¿Cómo generar / leer tags de secuencia dispersa para la pérdida de CTC dentro de Tensorflow?

A partir de una lista de imágenes de palabras con sus transcripciones, estoy tratando de crear y leer tags de secuencias dispersas (para tf.nn.ctc_loss ) usando un tf.train.slice_input_producer , evitando serialización de datos de entrenamiento preempaquetados en disco en formato TFRecord las aparentes limitaciones de tf.py_func , Cualquier relleno innecesario o prematuro, y leyendo todo […]

¿Hay una manera de implementar la recurrencia en numpy sin for-loops?

Tengo el siguiente problema. Hay una matriz X y necesito generar una matriz H tal que los valores de i_th row en la matriz H estén determinados por i_th row de la matriz X y (i-1)_th row de la matriz H H_{i} = F(X_{i}, H_{i-1}) Para calcular la primera fila de la matriz H usamos […]

TensorFlow dynamic_rnn regressor: ValueError dimension mismatch

Me gustaría construir un modelo de juguete LSTM para la regresión. Este bonito tutorial ya es demasiado complicado para un principiante. Dada una secuencia de longitud time_steps , predice el siguiente valor. Considere time_steps=3 y las secuencias: array([ [[ 1.], [ 2.], [ 3.]], [[ 2.], [ 3.], [ 4.]], … Los valores objective deben […]

Cómo clasificar el audio continuo.

Tengo un conjunto de datos de audio y cada uno de ellos tiene una longitud diferente. Hay algunos eventos en estos audios que quiero entrenar y probar, pero estos eventos se colocan al azar, además de que las longitudes son diferentes, es muy difícil construir un sistema de aprendizaje automático con el uso de ese […]

Número incorrecto de dimensiones en model.fit

Estoy tratando de ejecutar este SimpleRNN: model.add(SimpleRNN(init=’uniform’,output_dim=1,input_dim=len(pred_frame.columns))) model.compile(loss=”mse”, optimizer=”sgd”) model.fit(X=predictor_train, y=target_train, batch_size=len(pred_frame.index),show_accuracy=True) El error está en model.fit, como se puede ver a continuación: File “/Users/file.py”, line 1496, in Pred model.fit(X=predictor_train, y=target_train, batch_size=len(pred_frame.index),show_accuracy=True) File “/Library/Python/2.7/site-packages/keras/models.py”, line 581, in fit shuffle=shuffle, metrics=metrics) File “/Library/Python/2.7/site-packages/keras/models.py”, line 239, in _fit outs = f(ins_batch) File “/Library/Python/2.7/site-packages/keras/backend/theano_backend.py”, line 365, in __call__ […]

Transmisión de la salida de las predicciones en Keras

Tengo un LSTM en Keras que estoy entrenando para predecir sobre datos de series de tiempo. Quiero que la red emita predicciones en cada paso de tiempo, ya que recibirá una nueva entrada cada 15 segundos. Entonces, con lo que estoy luchando es la forma correcta de entrenarlo para que genere h_0, h_1, …, h_t, […]

TensorFlow: Realizando este cálculo de pérdida

Mi pregunta y problema se indican debajo de los dos bloques de código. Función de pérdida def loss(labels, logits, sequence_lengths, label_lengths, logit_lengths): scores = [] for i in xrange(runner.batch_size): sequence_length = sequence_lengths[i] for j in xrange(length): label_length = label_lengths[i, j] logit_length = logit_lengths[i, j] # get top k indices argmax_k(labels[i, j, 0, :], label_length) top_labels […]

Keras pretrain CNN con TimeDistributed

Aquí está mi problema, quiero usar una de las redes CNN pretensor en una capa TimeDistributed. Pero tengo algún problema para implementarlo. Aquí está mi modelo: def bnn_model(max_len): # sequence length and resnet input size x = Input(shape=(maxlen, 224, 224, 3)) base_model = ResNet50.ResNet50(weights=’imagenet’, include_top=False) for layer in base_model.layers: layer.trainable = False som = TimeDistributed(base_model)(x) […]

Keras RNN con celdas LSTM para predecir múltiples series de tiempo de salida basadas en múltiples series de tiempo de entrada

Me gustaría modelar RNN con celdas LSTM para predecir múltiples series de tiempo de salida basadas en múltiples series de tiempo de entrada. Para ser específico, tengo 4 series de tiempo de salida, y1 [t], y2 [t], y3 [t], y4 [t], cada una tiene una longitud de 3.000 (t = 0, …, 2999). También tengo […]

Tensorflow dynamic RNN (LSTM): ¿cómo formatear la entrada?

Me han dado algunos datos de este formato y los siguientes detalles: person1, day1, feature1, feature2, …, featureN, label person1, day2, feature1, feature2, …, featureN, label … person1, dayN, feature1, feature2, …, featureN, label person2, day1, feature1, feature2, …, featureN, label person2, day2, feature1, feature2, …, featureN, label … person2, dayN, feature1, feature2, …, featureN, […]