分解任务向量以改进模型编辑

本文解决了使用任务向量进行模型编辑的一个关键限制：重叠概念的干扰。通过将任务向量分解为共享组件和独特组件，作者能够更精确地控制模型行为，从而在多任务合并、扩散模型中的风格混合以及语言模型中的毒性降低方面实现更好的性能。这是一项重大贡献，因为它提供了一种更细致、更有效的方式来操纵和组合模型行为。

• •提出了一种任务向量分解方法，用于分离共享知识和独特知识。
• •改进了不同模型类型中的多任务合并、风格混合和毒性降低。
• •解决了任务向量算术中重叠概念的问题。
• •提供了一个新的框架来理解和控制任务向量算术。