Curso completo de deep learning | Aprendizaje profundo 2021 por Datitos Transformers: Redes Sin Recurrencias, Sólamente Atención | Clase 19| Curso Aprendizaje Profundo 2021
Transformers: Redes Sin Recurrencias, Sólamente Atención | Clase 19| Curso Aprendizaje Profundo 2021 Transcript and Lesson Notes
En la clase de hoy vamos a hablar sobre los Transformers, que se han convertido en cuestión de pocos años en la arquitectura de Red Neuronal con mayor potencial en el campo del Deep Learning. La mayoría de las abismales
Quick Summary
En la clase de hoy vamos a hablar sobre los Transformers, que se han convertido en cuestión de pocos años en la arquitectura de Red Neuronal con mayor potencial en el campo del Deep Learning. La mayoría de las abismales
Key Takeaways
- Review the core idea: En la clase de hoy vamos a hablar sobre los Transformers, que se han convertido en cuestión de pocos años en la arquitectura de Red Neuronal con mayor potencial en el campo del Deep Learning. La mayoría de las abismales
- Understand how machine learning fits into Transformers: Redes Sin Recurrencias, Sólamente Atención | Clase 19| Curso Aprendizaje Profundo 2021.
- Understand how artificial intelligence fits into Transformers: Redes Sin Recurrencias, Sólamente Atención | Clase 19| Curso Aprendizaje Profundo 2021.
- Understand how deep learning fits into Transformers: Redes Sin Recurrencias, Sólamente Atención | Clase 19| Curso Aprendizaje Profundo 2021.
Key Concepts
Full Transcript
En la clase de hoy vamos a hablar sobre los Transformers, que se han convertido en cuestión de pocos años en la arquitectura de Red Neuronal con mayor potencial en el campo del Deep Learning. La mayoría de las abismales avances de los últimos 5 años en NLP se basan enteramente en estas arquitecturas así que vamos a ver por qué son tan útiles y qué ventajas tienen sobre las RNN. Esta clase es parte de un curso gratuito dictado en la Ciudad de Mendoza, Argentina en Otoño de 2021. Podés encontrar todo el material en https://datitos.github.io/curso-aprendizaje-profundo/2021/ Limitaciones de Redes Recurrentes (0:00) ¿Qué es un Transformer? [1] (5:27) Partes de un Transformer: Feed Foward (MLP) en Transforemers (10:43) ¿Qué mejoras hacen a los Transformes un mejor modelo? (14:48) Encoder de un Transformers (23:05) Decoder en un Transformers (27:55) [1] Attention is all you need https://arxiv.org/abs/1706.03762
Lesson FAQs
What is Transformers: Redes Sin Recurrencias, Sólamente Atención | Clase 19| Curso Aprendizaje Profundo 2021 about?
En la clase de hoy vamos a hablar sobre los Transformers, que se han convertido en cuestión de pocos años en la arquitectura de Red Neuronal con mayor potencial en el campo del Deep Learning. La mayoría de las abismales
What key concepts are covered in this lesson?
The lesson covers machine learning, artificial intelligence, deep learning.
What should I learn before Transformers: Redes Sin Recurrencias, Sólamente Atención | Clase 19| Curso Aprendizaje Profundo 2021?
Review the previous lessons in Curso completo de deep learning | Aprendizaje profundo 2021 por Datitos, then use the transcript and key concepts on this page to fill any gaps.
How can I practice after this lesson?
Practice by applying the main concepts: machine learning, artificial intelligence, deep learning.
Does this lesson include a transcript?
Yes. The full transcript is visible on this page in indexable HTML sections.
Is this lesson free?
Yes. CourseHive lessons and courses are available to learn online for free.
Continue Learning
Continue this lesson in the app
Install CourseHive on Android or iOS to keep learning while you move.
