Articles of profundo

¿Por qué es posible tener una pérdida baja, pero también una precisión muy baja, en una neural network convolucional?

Soy nuevo en el aprendizaje automático y actualmente estoy tratando de entrenar una neural network convolucional con 3 capas convolucionales y 1 capa completamente conectada. Estoy usando una probabilidad de deserción del 25% y una tasa de aprendizaje de 0.0001. Tengo 6000 imágenes de entrenamiento 150×200 y 13 clases de salida. Estoy usando tensorflow. Estoy […]

¿Cuál es el inicializador de variable predeterminado en Tensorflow?

¿Cuál es el método predeterminado de inicialización de variables cuando se llama a tf.get_variable() sin ninguna especificación para el inicializador? Los docs solo dicen ‘ninguno’.

TensorFlow: obteniendo todos los estados de un RNN

¿Cómo se obtienen todos los estados ocultos de tf.nn.rnn() o tf.nn.dynamic_rnn() en TensorFlow? La API solo me da el estado final. La primera alternativa sería escribir un bucle al crear un modelo que funcione directamente en RNNCell. Sin embargo, la cantidad de pasos de tiempo no es fija para mí y depende del lote entrante. […]

¿Diferencia entre tensor.permute y tensor.view en PyTorch?

¿Cuál es la diferencia entre tensor.permute() y tensor.view() ? Parecen hacer lo mismo.

¿Cómo calcula Keras la precisión de la validación y la precisión del entrenamiento?

Me gustaría saber cómo Keras calcula la validación y las precisiones de entrenamiento para los problemas de clasificación de clases múltiples (es decir, la función utilizada). Configuré la comstackción de mi modelo de la siguiente manera: model.compile(optimizer=Adam(lr=0.001), loss=’categorical_crossentropy’, metrics=[‘accuracy’]) Pero estoy tratando de entender cómo se calcula la precisión de validación y la precisión del […]

¿Cómo implementar la segmentación semántica multiclase?

Soy capaz de entrenar una red U con imágenes etiquetadas que tienen una clasificación binaria. Pero me resulta difícil descubrir cómo configurar las capas finales en Keras / Theano para la clasificación de varias clases (4 clases). Tengo 634 imágenes y 634 máscaras correspondientes que son unit8 y 64 x 64 píxeles. Mis máscaras, en […]

¿Cómo aplicar la tasa de aprendizaje por capas en Pytorch?

Sé que es posible congelar capas individuales en una red, por ejemplo, para entrenar solo las últimas capas de un modelo pre-entrenado. Lo que busco es una forma de aplicar ciertas tasas de aprendizaje a diferentes capas. Así, por ejemplo, una tasa de aprendizaje muy baja de 0.000001 para la primera capa y luego boost […]

¿Cómo se inspeccionan las variables en un archivo de punto de control en TensorFlow cuando TensorFlow no puede encontrar el atributo de las herramientas?

Estaba intentando inspeccionar los puntos de control utilizando el código en inspect_checkpoint.py . Sin embargo, no pude hacer que funcionara porque realmente no brindaron un ejemplo. Probé la cosa más simple que pensé que funcionaría: tf.python.tools.inspect_checkpoint.print_tensors_in_checkpoint_file(file_name=’./tmp/mdl_ckpt’,tensor_name=”,all_tensors=”) sin embargo entiendo que python no tiene tools atributos: AttributeError: module ‘tensorflow.python’ has no attribute ‘tools’ Parece un error […]

Múltiples sesiones y gráficas en Tensorflow (en el mismo proceso)

Estoy entrenando un modelo donde el vector de entrada es la salida de otro modelo. Esto implica restaurar el primer modelo desde un archivo de punto de control mientras se inicializa el segundo modelo desde cero (usando tf.initialize_variables() ) en el mismo proceso. Hay una cantidad sustancial de código y abstracción, así que simplemente estoy […]

¿Cómo definen las keras “exactitud” y “pérdida”?

No puedo encontrar cómo Keras define “exactitud” y “pérdida”. Sé que puedo especificar diferentes métricas (por ejemplo, mse, entropía cruzada), pero Keras imprime una “precisión” estándar. ¿Cómo se define eso? Del mismo modo para la pérdida: sé que puedo especificar diferentes tipos de regularización, ¿están aquellos en la pérdida? Idealmente, me gustaría imprimir la ecuación […]