针对客户服务LLM代理的逐利攻击

本文探讨了客户服务LLM代理中的一个关键安全漏洞：恶意用户可能利用代理的帮助性来获取未经授权的让步。它强调了这些漏洞的实际影响，例如财务损失和信任的侵蚀。跨领域基准测试以及数据和代码的发布是对该领域的宝贵贡献，能够实现可重复的研究和更强大的代理接口的开发。

• •客户服务LLM代理容易受到逐利攻击。
• •攻击依赖于领域和技术。
• •航空公司支持被确定为特别容易受到攻击的领域。
• •有效载荷分割是一种持续有效的攻击技术。
• •本文提供了用于审计和改进代理安全性的基准和资源。