MultiRisk：通过迭代分数阈值控制多重风险

本文解决了控制生成式AI系统行为的关键问题，特别是在需要管理多个风险维度的实际应用中。 提出的MultiRisk方法提供了一种轻量级且高效的方法，使用测试时过滤和分数阈值。 本文的贡献在于形式化了多风险控制问题，开发了两种动态规划算法（MultiRisk-Base和MultiRisk），并提供了风险控制的理论保证。 在大型语言模型对齐任务上的评估表明，该算法在实现接近目标风险水平方面是有效的。

• •提出了MultiRisk，一种用于控制生成式AI中多个风险的方法。
• •使用带有分数阈值的测试时过滤进行轻量级行为控制。
• •介绍了两种用于有效风险管理的动态规划算法。
• •提供了风险控制的理论保证。
• •在大型语言模型对齐任务上展示了有效性。