検索拡張生成におけるコーパス汚染に対する防御

この論文は、検索拡張生成（RAG）システムにおける重要な脆弱性であるコーパス汚染に対処しています。RAGPartとRAGMaskという2つの新しい、計算効率の高い防御策を提案し、検索段階で動作します。この研究の重要性は、敵対的攻撃に対するRAGパイプラインの堅牢性を向上させるための実践的なアプローチにあるため、実際のアプリケーションにとって不可欠です。生成モデルを変更せずに済む検索段階での防御に焦点を当てている点は、統合と展開を容易にするため、特に価値があります。

• •RAGにおけるコーパス汚染に対する2つの検索段階防御（RAGPartとRAGMask）を提案。
• •防御は計算量が少なく、生成モデルの変更を必要としない。
• •さまざまなベンチマークと汚染戦略において、攻撃成功率の低下における有効性を示す。
• •防御をストレステストするための解釈可能な攻撃を導入。