Articles of multiproceso

no puede paralelizar (hilos) conexiones de telnet con python

Tengo un código que se conectará a varios enrutadores, utilizando telentlib, ejecutará algún código dentro de ellos y finalmente escribiré la salida en un archivo. Se ejecuta sin problemas. Sin embargo, cuando tuve que acceder a muchos enrutadores (+50), la tarea consume mucho tiempo (el código se ejecuta en serie, un enrutador a la vez). […]

anular el multiprocesamiento en python

¿Cómo puedo obtener una variable en la clase que está anulando el multiprocesamiento en Python? #!/usr/bin/env python import multiprocessing import os class TestMultiprocess(multiprocessing.Process): def __init__(self): multiprocessing.Process.__init__(self) self.myvar = ” def myfunc(self): return os.getpid() def run(self): self.myvar = self.myfunc() mlist = [] for i in range(10): t = TestMultiprocess() mlist.append(t) t.start() for j in mlist: t.join() […]

Procesamiento multiprocesamiento.Pool bloqueado en un solo núcleo

Estoy usando multiprocessing.Pool en Python en Ubuntu 12.04, y estoy teniendo un problema curioso; Cuando llamo a map_async en mi Pool, engendro 8 procesos, pero todos luchan por el dominio sobre un solo núcleo de mi máquina de 8 núcleos. El mismo código utiliza exactamente mis dos núcleos en mi Macbook Pro y los cuatro […]

Agrupamiento de multiprocesamiento dentro del proceso.

Cuando uso el siguiente código, el resultado del grupo siempre devuelve un tiempo de espera, ¿hay algo lógicamente incorrecto que esté haciendo? from multiprocessing import Pool, Process, cpu_count def add(num): return num+1 def add_wrap(num): new_num = ppool.apply_async(add, [num]) print new_num.get(timeout=3) ppool = Pool(processes=cpu_count() ) test = Process(target=add_wrap, args=(5,)).start() Estoy al tanto de este error y […]

punto muerto debido al locking del método Queue.get ()

Como el título implica, tengo un punto muerto y no tengo idea de por qué. Tengo múltiples productores y solo un consumidor. El proceso schedule_task será llamado por varios procesos después de que el subproceso haya llamado al método get de la cola from logging import getLogger from time import sleep from threading import Event, […]

Los trabajadores de la piscina no completan todas las tareas.

Tengo un script multiproceso de Python relativamente simple que configura un grupo de trabajadores que agregan la salida a un dataframe de dataframe pandas por medio de un administrador personalizado. Lo que encuentro es que cuando llamo a close () / join () en el grupo, no se están completando todas las tareas enviadas por […]

Python – Entrada del usuario a través de CGI. Archivo de hilos y lectura.

Mira al final de esta publicación, para el código de trabajo final. Es un script Python / CGI en funcionamiento que puede hacer que el usuario ingrese a un script CGI llamando a otro script que luego envía sus comandos a través de un socket local. Publicación original: Por lo que sé, no hay ninguna […]

Compartir objeto con proceso (multiproceso)

Estoy empezando con el multiprocesamiento y estoy tratando de compartir objetos entre main y process. Ejemplo de código: import multiprocessing class User(object): def __init__(self, name): self.name = name self.age = 0 def getNameAndAge(self): return self.name + ‘ ‘ + str(self.age) def define_age(user, age): user.age = age bob = User(‘bob’) print bob.getNameAndAge() define_age(bob, 25) print bob.getNameAndAge() […]

¿Es posible el comportamiento predeterminado de Python con multiprocesamiento?

No estoy seguro de si esto es posible (espero que así sea). Tengo un conjunto de datos que ejecuto a través de un proceso que utiliza defaultdict. DefaultDict tiene una función en la que si busca algo y no está en el diccionario, se agrega (en mi caso, estoy buscando los valores que están agregando, […]

¿Cómo especificar un directorio de trabajo local para subprocesos.Hilo y multiprocesamiento.Pool?

Al igual que subprocess.Popen (target =, cwd =), puede especificar su propio directorio de trabajo local. No quiero especificar la ruta absoluta cada vez porque simple es mejor que complejo. os.chdir () no funciona en absoluto, ya que establece una variable global (¿verdad?). Siempre que haya múltiples hilos, os.chdir () fallará. ¿Alguna sugerencia? ¡Gracias! Solo […]