Transformer家族 2.0 版：更新概述

这篇来自 Lil'Log 的文章宣布对其先前关于 Transformer 架构的帖子进行了重大更新。此次更新，被称为 2.0 版，是对 2020 年原始帖子的重大修订和扩展，纳入了该领域的最新进展。本文重点关注重组章节的层次结构，并用最新的研究论文丰富内容。包含详细的符号部分对于不熟悉 Transformer 模型数学基础的读者特别有帮助。此更新为寻求 Transformer 架构及其演变的全面概述的任何人提供了宝贵的资源。

• •自 2020 年以来，Transformer 架构取得了重大进展。
• •该文章的 2.0 版本提供了 Transformer 家族的更新和扩展概述。
• •本文包含一个详细的符号部分，用于理解数学概念。