信頼性の高いコンセンサスサンプリングによる証明可能な安全性を持つ生成AI

本論文は、経験的な攻撃と防御のサイクルを超えて、証明可能な安全性を持つ生成AIの重要な必要性に取り組んでいます。既存のコンセンサスサンプリング（CS）の限界を特定し、堅牢性、有用性を向上させ、アブステインを排除するために、信頼性の高いコンセンサスサンプリング（RCS）を提案しています。安全性を動的に強化するためのフィードバックアルゴリズムの開発が重要な貢献です。