网络代理说服基准

本文介绍了一个基准（TRAP），用于评估网络代理（由 LLM 驱动）对提示注入攻击的脆弱性。随着网络代理变得越来越普遍，这突出了一个关键的安全问题，表明这些代理很容易被嵌入在网络界面中的对抗性指令误导。这项研究提供了一个用于进一步调查和扩展基准的框架，这对于开发更强大和更安全的网络代理至关重要。

• •介绍了用于评估网络代理中提示注入漏洞的 TRAP 基准。
• •证明了各种 LLM 驱动的代理对提示注入的显着敏感性。
• •提供了一个用于扩展基准和进行进一步研究的模块化框架。
• •强调了在网络代理设计中改进安全措施的必要性。