拡散モデルにおける多モーダル概念消去ベンチマーク

この論文は、拡散モデルにおける概念消去手法を評価するための新しいベンチマーク、M-ErasureBenchを紹介しています。テキストプロンプト以外の複数の入力モダリティ（テキスト、埋め込み、潜在変数）を対象としています。既存手法の限界、特にテキストプロンプト以外のモダリティへの対応の弱さを指摘し、堅牢性を向上させるための新しい手法、IRECEを提案しています。この研究は、有害コンテンツ生成や著作権侵害に関連する生成モデルの重要な脆弱性に対処し、より包括的な評価フレームワークと実用的な解決策を提供している点で重要です。

• •M-ErasureBenchは、拡散モデルにおける概念消去のための包括的な多モーダル評価フレームワークを提供します。
• •既存の概念消去手法は、学習された埋め込みや反転された潜在変数を使用した攻撃に対して脆弱です。
• •提案されたプラグアンドプレイモジュールであるIRECEは、概念再現に対する堅牢性を向上させます。
• •この研究は、生成モデルにおける有害コンテンツ生成という重要な問題に対処しています。