ファインチューニングされた言語モデルにおけるメンバーシップ推論の脆弱性を明らかにする新たな攻撃

この研究は、ファインチューニングされた言語モデルにおける重要なセキュリティ脆弱性を探求し、攻撃者が特定のデータがモデルのトレーニングに使用されたかどうかを推論できる可能性を示しています。 この研究結果は、より強力なプライバシー保護と、これらのモデルの堅牢性に関する更なる研究の必要性を強調しています。

• •トレーニングデータメンバーシップが推論できる、ファインチューニングされた言語モデルの脆弱性を特定。
• •メンバーシップ推論攻撃のための新しい方法としてインコンテキストプロービングを紹介。
• •言語モデル開発におけるプライバシー保護技術の重要性を強調。