MemoryGraft：経験検索を通じたLLMエージェントのポイズニング

このArXiv論文は、LLMエージェントの重要な脆弱性を強調し、攻撃者がその動作を永続的に侵害する方法を示しています。この研究は、経験検索メカニズムをポイズニングすることによる新しい攻撃ベクトルを紹介しています。

• •MemoryGraftは、悪意のある情報を注入するために、経験検索プロセスを利用します。
• •この攻撃により、LLMエージェントの動作を永続的に侵害することが可能になります。
• •この論文はおそらく、潜在的な緩和策について議論しているでしょう。