cuda - for - cómo encontrar los SM activos?

cuda reference

Question

¿Hay alguna manera de saber la cantidad de SM libres / activos? O al menos para leer los valores de voltaje / potencia o temperatura de cada SM por lo que puedo saber si funciona o no. (en tiempo real mientras algún trabajo se ejecuta en el dispositivo de la GPU).

% smid me ayudó a conocer el Id de cada SM. Algo similar sería útil.

Gracias y Saludos, Rakesh

Answer 1

La interfaz de herramientas de perfiles de CUDA ( CUPTI ) contiene una API de eventos que permite el muestreo en tiempo de ejecución de los contadores de GPU PM. El CUPTI SDK se envía como parte de CUDA Toolkit. La documentación sobre el muestreo se puede encontrar en la sección API de eventos CUPTI / Eventos de muestreo .

Uno o más de los siguientes contadores le brindarán una buena idea de la actividad SM:

• active_cycles : Número de ciclos en que un multiprocesador tiene al menos un warp activo.
• active_warps : número acumulado de warps activos por ciclo. Para cada ciclo, aumenta en el número de urdimbres activas en el ciclo que puede estar en el rango de 0 a {48,64}.