Summary
Keywords
Full Transcript
En este video te enseño cómo puedes optimizar un modelo que tengas armado en PyTorch para que corra usando TensorRT, un SDK de Nvidia el cual optimiza modelos para correr en hardware de Nvidia #pytorch #tensorrt #redesneuronales #inteligenciaartificial Aquí se encuentran todas las ligas y comandos mencionados en el video: https://inteligencia.tech/?p=794 0:00 - Intro 0:50 - Como funciona torch-TensorRT 1:41 - Requerimientos 1:43 - Requerimientos: Docker 2:05 - Requerimientos: Nvidia Container Toolkit 2:26 - Requerimientos: Nvidia NGC 3:01 - Config: Repositorio torch-TensorRT 3:22 - Config: Nvidia Container Toolkit 4:35 - Config: Nvidia NGC 6:16 - Pull imagen de PyTorch 6:39 - Crear contenedor a partir de la imagen 8:59 - Abrir el Jupyter notebook 11:55 - Procesamiento de imagenes 12:57 - Primera corrida sin optimizar 13:42 - Segunda corrida OPTIMIZADA a fp32 16:51 - Tercera corrida OPTIMIZADA a fp16 20:09 - Guardar y cargar modelo ya optimizado para futuras predicciones
