DeepSeek AI 推出 Engram：用于稀疏 LLM 的条件记忆轴

DeepSeek 的 Engram 模块通过引入条件记忆轴，解决了大型语言模型中的关键效率瓶颈。 这种方法有望通过允许 LLM 高效查找和重用知识，而不是反复重新计算模式，从而提高性能并降低计算成本。

• •Engram 是一个为稀疏 LLM 设计的新的条件记忆模块。
• •它旨在通过允许 LLM 执行知识查找来提高效率。
• •该模块与现有的混合专家 (MoE) 架构并行工作。