llm observability

"LLM可観測性ツールはこれらを専門的に扱います：プロンプトのバージョン管理（どのプロンプトが最も効果的か）、トレース（マルチステップのエージェント処理を追跡）、コスト分析（モデル・エンドポイントごとのトークン消費）、評価（出力品質の定量的な測定）。"

"LLM可観測性ツールは、LLMアプリ特有の課題である「プロンプトのバージョン管理」「マルチステップのエージェント処理を追跡するトレース」「モデル・エンドポイントごとのトークン消費のコスト分析」「出力品質の定量的な測定（Eval）」を専門的に扱います。"

"これらを解決するのがLLM可観測性ツールであり、LLMアプリには固有の観測ニーズがあります：トレース：LLMへの入出力を全て記録。スパン：検索拡張生成 (RAG) の検索→生成、エージェントの各ステップを可視化。評価：回答品質・ハルシネーション (幻覚)・関連性をスコアリング。"