Klarity：用于分析 LLM 输出不确定性的开源工具

Klarity 是一个开源工具，旨在分析大型语言模型 (LLM) 令牌生成中的不确定性和决策制定。它提供实时分析，结合对数概率和语义理解，并输出带有见解的结构化 JSON。它支持 Hugging Face transformers，并已使用 Qwen2.5 模型进行了测试。该工具旨在通过提供对文本生成过程中不确定性和风险领域的见解，帮助用户理解和调试 LLM 行为。