基于LLM的多智能体系统中的代码注入攻击

本文重点介绍了基于LLM的多智能体系统中的一个关键安全漏洞，即代码注入攻击。由于这些系统在软件开发中变得越来越普遍，这项研究揭示了它们对恶意代码的易感性，因此非常重要。本文的发现对安全AI驱动系统的设计和部署具有重大意义。

• •基于LLM的多智能体系统容易受到代码注入攻击。
• •编码器-审查者-测试者架构比编码器或编码器-测试者架构更具弹性。
• •添加安全分析代理可以提高弹性，而不会显着影响效率。
• •高级代码注入技术，例如嵌入有毒的少样本示例，可以显着提高攻击成功率。