複数ターン型ツール呼び出しエージェントにおける、プロビナンス認識脆弱性の発見

この記事は、複数ターン型ツール呼び出しAIエージェントにおける重要なセキュリティ欠陥を浮き彫りにしています。 アサーション条件付きコンプライアンスを中心とする脆弱性は、これらのシステムに対する悪意のある操作を可能にする可能性があります。