AgentSHAP: シャプレー値を用いたLLMエージェントのツール重要度解釈

この研究論文では、LLMエージェントが使用する様々なツールの貢献度を理解するためのAgentSHAPという手法を紹介しています。モンテカルロ・シャプレー値を採用することで、エージェントの行動を解釈し、重要なツールを特定するためのフレームワークを提供しています。

• •AgentSHAPは、LLMエージェントの内部構造を解釈する新しい方法を提供します。
• •この方法は、ツールの重要度評価にモンテカルロ・シャプレー値を利用しています。
• •この研究は、LLMエージェントのコンテキストにおける説明可能なAIに貢献しています。