LLM 拒绝不一致性：探究随机性和安全性之间的影响

本文强调了大型语言模型的一个关键漏洞：其拒绝行为的不可预测性。这项研究强调了在评估和部署 LLM 安全机制时采用严格测试方法的重要性。

• •LLM 的拒绝行为对随机种子和温度等参数的微小变化高度敏感。
• •这种不稳定性可能导致安全结果不一致，即相同的提示可能会引发不同的响应。
• •这些发现需要在 LLM 中采用更强大的评估和校准方法，以确保可靠的安全性。