揭示电路：解码Transformer如何处理信息

这篇文章强调了Transformer模型内部“电路”的出现，表明了一种比简单概率计算更结构化的信息处理方式。理解这些内部路径对于模型的可解释性至关重要，并且有可能通过有针对性的干预来优化模型的效率和性能。

• •Transformer等LLM不仅仅是简单的概率计算器。
• •Transformer构建了类似电子电路的内部路径。
• •这篇文章使用IOI（间接宾语识别）来演示这个过程。