MultiRisk：スコア閾値を用いたAI行動制御

この論文は、実世界での応用において複数のリスク次元を管理する必要がある場合に、生成AIシステムの行動を制御するという重要な問題に取り組んでいます。提案されたMultiRisk法は、スコア閾値を用いたテスト時フィルタリングによる軽量で効率的なアプローチを提供します。この論文の貢献は、マルチリスク制御問題を形式化し、2つの動的計画法アルゴリズム（MultiRisk-BaseとMultiRisk）を開発し、リスク制御の理論的保証を提供することにあります。大規模言語モデルのアライメントタスクでの評価は、目標リスクレベルに近いレベルを達成する上で、アルゴリズムの有効性を示しています。

• •生成AIにおける複数のリスクを制御するためのMultiRiskを提案。
• •軽量な行動制御のために、スコア閾値を用いたテスト時フィルタリングを使用。
• •効率的なリスク管理のための2つの動的計画法アルゴリズムを紹介。
• •リスク制御の理論的保証を提供。
• •大規模言語モデルのアライメントタスクでの有効性を実証。