set_start_method - python pool map multiple arguments

RuntimeError en ventanas que intentan multiproceso de python

Question

Estoy probando mi primer programa formal de Python usando Threading y Multiprocessing en una máquina de Windows. Sin embargo, no puedo iniciar los procesos, con python dando el siguiente mensaje. El caso es que no estoy lanzando mis hilos en el módulo principal . Los hilos se manejan en un módulo separado dentro de una clase.

EDITAR : Por cierto, este código funciona bien en ubuntu. No del todo en windows

RuntimeError:
Attempt to start a new process before the current process
has finished its bootstrapping phase.
This probably means that you are on Windows and you have
forgotten to use the proper idiom in the main module:
if __name__ == ''__main__'':
freeze_support()
...
The "freeze_support()" line can be omitted if the program
is not going to be frozen to produce a Windows executable.

Mi código original es bastante largo, pero pude reproducir el error en una versión abreviada del código. Se divide en dos archivos, el primero es el módulo principal y hace muy poco más que importar el módulo que maneja procesos / hilos y llama a un método. El segundo módulo es donde está la carne del código.

testMain.py:

import parallelTestModule
extractor = parallelTestModule.ParallelExtractor()
extractor.runInParallel(numProcesses=2, numThreads=4)

parallelTestModule.py:

import multiprocessing
from multiprocessing import Process
import threading
class ThreadRunner(threading.Thread):
""" This class represents a single instance of a running thread"""
def __init__(self, name):
threading.Thread.__init__(self)
self.name = name
def run(self):
print self.name,''/n''
class ProcessRunner:
""" This class represents a single instance of a running process """
def runp(self, pid, numThreads):
mythreads = []
for tid in range(numThreads):
name = "Proc-"+str(pid)+"-Thread-"+str(tid)
th = ThreadRunner(name)
mythreads.append(th)
for i in mythreads:
i.start()
for i in mythreads:
i.join()
class ParallelExtractor:
def runInParallel(self, numProcesses, numThreads):
myprocs = []
prunner = ProcessRunner()
for pid in range(numProcesses):
pr = Process(target=prunner.runp, args=(pid, numThreads))
myprocs.append(pr)
# if __name__ == ''parallelTestModule'': #This didnt work
# if __name__ == ''__main__'': #This obviously doesnt work
# multiprocessing.freeze_support() #added after seeing error to no avail
for i in myprocs:
i.start()
for i in myprocs:
i.join()

Answer 1

Aunque las respuestas anteriores son correctas, hay una pequeña complicación que ayudaría a comentar.

En caso de que su módulo principal importe otro módulo en el que las variables globales o las variables miembro de la clase se definan e inicialicen (o utilicen) algunos objetos nuevos, es posible que deba condicionar esa importación de la misma manera:

if __name__ == ''__main__'''':
import my_module

Answer 2

En Windows, los subprocesos importarán (es decir, ejecutarán) el módulo principal al inicio. if __name__ == ''__main__'': insertar un if __name__ == ''__main__'': guard en el módulo principal para evitar crear subprocesos recursivamente.

testMain.py modificado:

import parallelTestModule
if __name__ == ''__main__'':
extractor = parallelTestModule.ParallelExtractor()
extractor.runInParallel(numProcesses=2, numThreads=4)

Answer 3

Intenta poner tu código dentro de una función principal en testMain.py

import parallelTestModule
if __name__ == ''__main__'':
extractor = parallelTestModule.ParallelExtractor()
extractor.runInParallel(numProcesses=2, numThreads=4)

Ver los docs :

"For an explanation of why (on Windows) the if __name__ == ''__main__''
part is necessary, see Programming guidelines."

que dicen

"Asegúrese de que el módulo principal pueda ser importado de forma segura por un nuevo intérprete de Python sin causar efectos secundarios no deseados (como por ejemplo iniciar un nuevo proceso)".

... usando if __name__ == ''__main__''