Course Hive
Search

Welcome

Sign in or create your account

Continue with Google
or
¡Programando GPT desde cero (from  scratch)! ¡MultiHead Self Attention! Parte 1
Play lesson

Deep Learning con Python y PyTorch - ¡Programando GPT desde cero (from scratch)! ¡MultiHead Self Attention! Parte 1

5.0 (0)
10 learners

What you'll learn

This course includes

  • 33 hours of video
  • Certificate of completion
  • Access on mobile and TV

Summary

Keywords

Full Transcript

Otros videos de la serie - Segunda parte: https://youtu.be/jNYm5M5dcO0 - Tercera parte: https://youtu.be/51jq4wnHYaY Videos previos de utilidad: - Paper original "Attention is all you Need" https://youtu.be/Bh22yyEJFak - Transformers parte 2: https://youtu.be/Nj5DVykeFhM - Transformers parte 3: https://youtu.be/AFcqsswq3C8 - Cómo programar un transformer from scratch https://youtu.be/XefFj4rLHgU - Traductor desde cero https://youtu.be/VY_GTyHLDNU En esta primera parte del tutorial sobre GPT-2, explico a fondo el concepto clave de 'multi-head self-attention'. Explico su funcionamiento interno y su importancia en la arquitectura del modelo. En las siguientes partes, mostraré el modelo completo desde cero y abordaremos el proceso de entrenamiento. ¡Vamos a construir tu propio GPT-2!

Course Hive

Continue this lesson in the app

Install CourseHive on Android or iOS to keep learning while you move.

FAQs

Course Hive
Download CourseHive
Keep learning anywhere