Transformer
/trænsˈfɔːrmər/变换器跟读一遍
川斯·佛·默
点「跟读」听中文慢速念法——记住这一串,开口不慌。
当下所有大模型共用的地基架构,2017 年一篇论文发明。
人话解释
Transformer 来自 2017 年 Google 论文《Attention Is All You Need》,如今几乎所有大模型都盖在这块地基上。它的两大本事:一是让句中每个词同时「环顾四周」,快速捕捉谁跟谁有关;二是结构特别适合并行大规模训练。看到宣传里「基于 Transformer 架构」,直接理解成「用的是行业标准框架」即可。
例现代高楼造型千变万化,底下大多是同一种混凝土框架——Transformer 就是 AI 高楼的通用承重结构。