新型攻击揭示微调语言模型中的成员推理漏洞

这项研究探讨了微调语言模型中的一个关键安全漏洞，证明了攻击者推断特定数据是否在模型训练期间被使用。 这项研究的发现突出了对更强隐私保护的需求，以及对这些模型鲁棒性的进一步研究。

• •确定了微调语言模型中的一个漏洞，可以推断训练数据的成员身份。
• •引入了上下文探测作为一种新的成员推理攻击方法。
• •强调了在语言模型开发中隐私保护技术的重要性。