Estados Unidos
Documentado
“Attention Is All You Need” introduce la arquitectura Transformer
El artículo “Attention Is All You Need”, de un equipo de Google, propuso una arquitectura de redes basada solo en mecanismos de atención, eliminando la recurrencia. Permitía procesar todos los tokens en paralelo y capturar dependencias de largo alcance de forma más eficiente, mejorando los registros de traducción automática.
Por qué es un hito
El Transformer es el sustrato de prácticamente todo modelo de lenguaje moderno (GPT, Llama, Claude, Gemini): lo que hoy llamamos “IA generativa” descansa arquitectónicamente sobre este paper.
Actores
Ashish Vaswani y equipoGoogle
Tecnologías
Transformermecanismo de atenciónauto-atenciónparalelización
Geografía
Estados Unidos
Fuentes
- Transformer (deep learning architecture) (artículo)Wikipedia · 2026 VerificadaVer fuente
Conceptos relacionados
EmbeddingModelo fundacionalContexto
Referencias al glosario del medio (en preparación).