MultiRisk：通过迭代分数阈值控制多重风险

本文解决了控制生成式AI系统行为的关键问题，特别是在需要管理多个风险维度的实际应用中。 提出的MultiRisk方法提供了一种轻量级且高效的方法，使用测试时过滤和分数阈值。 本文的贡献在于形式化了多风险控制问题，开发了两种动态规划算法（MultiRisk-Base和MultiRisk），并提供了风险控制的理论保证。 在大型语言模型对齐任务上的评估表明，该算法在实现接近目标风险水平方面是有效的。