针对检索增强生成的语料库投毒防御

本文针对检索增强生成（RAG）系统中的一个关键漏洞：语料库投毒。它提出了两种新颖的、计算效率高的防御措施，RAGPart 和 RAGMask，它们在检索阶段运行。这项工作的意义在于它对提高 RAG 管道在对抗性攻击下的鲁棒性采取了务实的方法，这对于实际应用至关重要。本文侧重于检索阶段的防御，这尤其有价值，因为它避免了修改生成模型，使其更容易集成和部署。

• •提出了两种针对 RAG 中语料库投毒的检索阶段防御（RAGPart 和 RAGMask）。
• •防御措施计算量小，不需要修改生成模型。
• •在各种基准测试和投毒策略中，证明了降低攻击成功率的有效性。
• •引入了一种可解释的攻击来对防御措施进行压力测试。