2017年6月12日(论文首版公开) / 美洲

Transformer用注意力机制组织序列模型

《Attention Is All You Need》提出Transformer架构,以注意力机制组织序列间的关系,并在机器翻译任务中检验性能。

Q与K指向权重矩阵,V从旁路进入后续加权组合并输出AV
现代科学示意图原创教学示意:Q与K先计算示意注意力权重,再与旁路的V作加权组合,输出AV。它不是Transformer原论文插图、完整模型架构或实测注意力数据。文明图志 · 文明图志(原创科学解释图) · CC0 1.0 Universal 图片来源与授权

科学史故事

Vaswani等八位作者公开的论文,用注意力、位置编码和前馈层构成编码器与解码器,避免把循环或卷积作为序列建模的基本结构。实验主要考察机器翻译,不等于已经造出今日的聊天应用或证明通用智能。注意力机制此前已有研究,后来的预训练、大规模数据与模型改造也是新的阶段,不能把人工智能的发展归结为一篇论文。

联系与背景

这一架构承接神经网络训练与注意力研究。理解它还需要看到数据、算力、优化和评测的共同作用,而不只是一张网络结构图。

年代与日期精度

2017年6月12日(论文首版公开) 明确节点

按资料明确记载的年、月或日定位;未详的月日不作推定。

地图代表点

山景城及Google研究协作网络

以山景城代表Google研究环境,不是论文给出的精确实验地址;作者来自Google Brain、Google Research及相关合作背景。

代表点坐标 · 37.422°, -122.084°

代表点可指一份手稿的收藏地、实验室或观测地点,不表示研究只在此发生,也不把共同发现单独归于某一国家。

资料依据

  • 上海交通大学Hello AI课程:每个词都能看见其他词(原始Transformer)
  • 中国科学院自动化研究所:发展AI,融合人脑智慧(2017年架构背景)

资料以书目标题展示,不提供外部跳转。参考资料可能支持个别事实或相关背景,列出来源并不等于每一句解释已经逐句核实。

有想法,告诉我们