ジェイルブレイク攻撃とコンテンツ安全フィルター：LLM安全性の評価

この論文は、コンテンツモデレーションフィルターを含む、展開パイプライン全体におけるジェイルブレイク攻撃を評価することにより、LLMの安全性研究における重要なギャップに対処しています。単にモデル自体をテストするだけでなく、実際のシナリオにおける攻撃の実用的な有効性を評価しています。この発見は、安全フィルターの存在により、既存のジェイルブレイク成功率が過大評価されている可能性があることを示唆しているため、重要です。この論文は、安全性を評価する際に、LLMだけでなく、システム全体を考慮することの重要性を強調しています。