LeftoverLocals: 通过 GPU 内存泄漏泄露 LLM 响应

这篇文章强调了一个潜在的安全漏洞，即 LLM 的响应可能会从泄漏的 GPU 本地内存中提取。这项研究引发了对 LLM 处理的敏感信息隐私的严重担忧。

• •该研究揭示了 LLM 中与 GPU 内存管理相关的潜在漏洞。
• •本地 GPU 内存中的数据残余可被用于重建 LLM 的输出。
• •这种泄漏对隐私和 LLM 交互的机密性构成风险。