MultiRisk：スコア閾値を用いたAI行動制御

この論文は、実世界での応用において複数のリスク次元を管理する必要がある場合に、生成AIシステムの行動を制御するという重要な問題に取り組んでいます。提案されたMultiRisk法は、スコア閾値を用いたテスト時フィルタリングによる軽量で効率的なアプローチを提供します。この論文の貢献は、マルチリスク制御問題を形式化し、2つの動的計画法アルゴリズム（MultiRisk-BaseとMultiRisk）を開発し、リスク制御の理論的保証を提供することにあります。大規模言語モデルのアライメントタスクでの評価は、目標リスクレベルに近いレベルを達成する上で、アルゴリズムの有効性を示しています。