Klarity：用于分析 LLM 输出不确定性的开源工具

Klarity 是一个开源工具，旨在分析大型语言模型 (LLM) 令牌生成中的不确定性和决策制定。它提供实时分析，结合对数概率和语义理解，并输出带有见解的结构化 JSON。它支持 Hugging Face transformers，并已使用 Qwen2.5 模型进行了测试。该工具旨在通过提供对文本生成过程中不确定性和风险领域的见解，帮助用户理解和调试 LLM 行为。

• •用于分析 LLM 不确定性的开源工具。
• •提供实时分析和结构化 JSON 输出。
• •支持 Hugging Face transformers，并已使用 Qwen2.5 进行测试。
• •旨在通过提供对不确定性和风险领域的见解来帮助调试 LLM 行为。