Klarity：LLMの出力における不確実性を分析するオープンソースツール

Klarityは、大規模言語モデル（LLM）のトークン生成における不確実性と意思決定を分析するために設計されたオープンソースツールです。リアルタイム分析を提供し、対数確率とセマンティック理解を組み合わせ、洞察を含む構造化されたJSONを出力します。Hugging Face transformersをサポートし、Qwen2.5モデルでテストされています。このツールは、テキスト生成中の不確実性とリスク領域に関する洞察を提供することにより、ユーザーがLLMの動作を理解し、デバッグするのに役立つことを目的としています。