利用因果分析革新大语言模型安全性

这项研究引入了一个新颖的框架Causal Analyst，用于理解和减轻对大语言模型 (LLM) 的“越狱”攻击。通过将生成式人工智能与数据驱动的因果发现相结合，这项工作旨在增强 LLM 的安全性和可靠性，为更安全、更值得信赖的 AI 系统铺平道路。

• •Causal Analyst 使用生成式人工智能来查明 LLM 越狱的原因。
• •该研究确定了直接导致越狱的特定提示特征（如“积极角色”）。
• •这些发现被应用于提高攻击成功率并创建更强大的安全护栏。