12 de junio de 2017 (primera versión pública del artículo) / Américas
Transformer organiza el modelado de secuencias mediante atención
Attention Is All You Need presentó Transformer, que relaciona elementos de una secuencia mediante atención y fue evaluado en tareas de traducción automática.
La imagen no está disponible. Puedes consultar su descripción y su fuente.
El relato
Vaswani y otros siete autores combinaron atención, codificación posicional y capas de propagación hacia delante en una arquitectura codificador–decodificador, sin recurrencia ni convolución como base del modelado secuencial. Los experimentos trataban sobre traducción, no sobre los chats actuales ni una demostración de inteligencia general. La atención tenía antecedentes; el preentrenamiento, los datos y las modificaciones posteriores fueron otros avances. Una sola publicación no explica el origen de toda la inteligencia artificial.
Conexiones y contexto
La arquitectura retomó investigaciones sobre entrenamiento de redes y atención. Los datos, el hardware, la optimización y la evaluación también determinaron sus usos posteriores, más allá del esquema del modelo.
Fechas y precisión
12 de junio de 2017 (primera versión pública del artículo) Fecha documentada
Se sitúa según el año, mes o día documentado, sin inventar la precisión que falta.
Ubicación representativa en el mapa
Mountain View y una colaboración de investigación de Google
Mountain View representa el entorno de Google, no una dirección experimental indicada por el artículo; las afiliaciones incluyen Google Brain y Google Research.
Coordenadas representativas · 37.422°, -122.084°
El marcador indica un lugar representativo, como una colección de manuscritos, un laboratorio o un observatorio. No significa que el trabajo se realizara solo allí ni atribuye un descubrimiento compartido a un único país.
Bibliografía
- Vaswani y coautores: Attention Is All You Need, primera versión pública
- Google Research: Attention Is All You Need
Las referencias se presentan como títulos bibliográficos, sin enlaces externos. Pueden respaldar datos concretos o el contexto; su presencia no certifica cada interpretación del relato.