用于多语言LLM的稳健机制可解释性的三角剖分

本文探讨了理解多语言语言模型（LLM）内部运作的挑战。它提出了一种名为“三角剖分”的新方法来验证机制解释。核心思想是确保解释不仅限于单一语言或环境，而且在保持意义的同时，在不同的变体中都成立。这一点至关重要，因为LLM在不同语言中的行为可能难以预测。本文的重要性在于为机制可解释性提供了更严格、更可证伪的标准，超越了单一环境测试，并解决了虚假电路的问题。

• •提出了“三角剖分”作为一种验证多语言LLM中机制解释的方法。
• •三角剖分要求在参考族（保持谓词的变体）中具有必要性、充分性和不变性。
• •解决了通过单一环境测试但未能通过跨语言不变性的虚假电路问题。
• •为机制可解释性提供了更严格、更可证伪的标准。