neural network - tutorial - ¿Por qué la predicción necesita tamaño de lote en Keras?

keras tutorial

Question

En Keras, para predecir la clase de una prueba de datos, se usa predict_classes() .

Por ejemplo:

classes = model.predict_classes(X_test, batch_size=32)

Mi pregunta es, sé el uso de batch_size en el entrenamiento, pero ¿por qué necesita un batch_size para la predicción? ¿como funciona?

Answer 1

Keras puede predecir múltiples valores al mismo tiempo, como si ingresara un vector de 100 elementos, Keras puede calcular una predicción para cada elemento, dando 100 salidas. Este cálculo también se puede realizar en lotes, definidos por batch_size.

Esto es solo en caso de que no pueda ajustar todos los datos en la CPU / GPU RAM al mismo tiempo y se requiera procesamiento por lotes.