可靠共识采样实现可证明安全的生成式AI

本文解决了对可证明安全的生成式AI的关键需求，超越了经验性的攻击-防御循环。它指出了现有共识采样（CS）的局限性，并提出了可靠共识采样（RCS）以提高鲁棒性、实用性并消除弃权。开发用于动态增强安全性的反馈算法是一项关键贡献。

• •提出了可靠共识采样（RCS）作为共识采样（CS）的改进，用于可证明安全的生成式AI。
• •RCS增强了对对抗性攻击的鲁棒性，并提高了实用性，与CS相比。
• •RCS消除了弃权的需求，这是CS的一个常见限制。
• •引入了用于RCS动态安全增强的反馈算法。
• •提供了RCS可控风险阈值的理论保证。