Deep Learning con Python y PyTorch - PyTorch Mixed Precision | Precisión Mixta en PyTorch | FP16 vs FP32

Videos previos U-Net: Paper: https://youtu.be/waIPUsecaaQ Dataset y Dataloader: https://youtu.be/dfMEK4bKjRE Clase U-Net en PyTorch: https://youtu.be/x_cY9l1cwj0 Entrenamiento y métricas: https://youtu.be/bBuIzwFKtZY Código U-Net sobre el cual trabajo: https://github.com/JACantoral/DL_fundamentals/blob/main/Fundamentals_DL_UNET_4_video_v2.ipynb Video de One Cycle policy: https://youtu.be/-8Qh5ThpHuQ Después de haber explicado con detalle la implementación de U-Net, en este vido me baso en el mismo ejemplo para explicar como usar precisión mixta en PyTorch combinando punto flotante de 32 y 16 bits, para entrenar modelos de forma más rápida, permitiendo el uso de entradas más grandes con mini batches con más imágenes o datos. Definitivamente una práctica que recomiendo incorporar en el entrenamiento de cualquier modelo. Referencia al paper de U-Net: Ronneberger, O., Fischer, P., & Brox, T. (2015). U-Net: Convolutional Networks for Biomedical Image Segmentation (arXiv:1505.04597). arXiv. https://doi.org/10.48550/arXiv.1505.04597 Acerca de la serie Fundamentos de Deep Learning con Python y PyTorch: En esta serie de videos explico qué son las Redes Neuronales (Neural Networks) y qué es Aprendizaje Computacional (Machine Learning) así como Deep Learning. Empezamos con los principios matemáticos fundamentales hasta su implementación en código. Para esto, primero utilizaremos Python y Numpy para entender los principios de programación de Redes Neuronales incluyendo el algoritmo de retropropagación (backpropagation). Con estas bases, presentaremos el framework PyTorch y construiremos modelos más complejos como son Redes Neuronales Convolucionales (Convolutional Neural Networks - CNNs). About the video series: In this video series I will explain what Neural Networks are, and how Deep Neural Networks work, from the mathematical principles to their implementation in code. Firstly, we will use pure Python and Numpy to understand the fundamentals including backpropagation for a simple Fully Connected Network, and from there we will build on to Convolutional Neural Networks (CNN) using PyTorch. I will be uploading at least one new video every week until we reach different architectures of CNNs. Then, depending on the response and interest in the series I may cover newer models using Generative Adversarial Networks (GANs), and Recurrent Neural Networks.