RobustMask：神经排序模型的认证鲁棒性

本文解决了神经排序模型对对抗攻击的严重脆弱性问题，这对于检索增强生成（RAG）等应用来说是一个重要的担忧。 提出的 RobustMask 防御提供了一种新颖的方法，将预训练语言模型与随机掩蔽相结合，以实现认证的鲁棒性。 本文的贡献在于提供了认证的 top-K 鲁棒性的理论证明，并通过实验证明了其有效性，为增强现实世界检索系统的安全性提供了实用的解决方案。

• •提出了 RobustMask，这是一种针对神经排序模型对抗攻击的新型防御。
• •结合预训练语言模型和随机掩蔽以实现鲁棒性。
• •提供了认证的 top-K 鲁棒性的理论证明。
• •证明了在对抗扰动下认证大量排名文档的有效性。