OpenLLMetry：基于OpenTelemetry的LLM可观测性

这篇文章介绍了OpenLLMetry，一个基于OpenTelemetry构建的开源项目，用于观察LLM应用程序。其主要卖点是其开放协议、供应商中立性（允许与各种监控平台集成）以及对LLM特定组件（如提示、令牌使用和向量数据库）的全面检测。该项目旨在解决LLM领域中现有封闭协议可观察性工具的局限性。专注于OpenTelemetry允许跟踪整个系统执行，而不仅仅是LLM，并易于与现有的监控基础设施集成。

• •OpenLLMetry是一个用于LLM可观察性的开源项目。
• •它基于OpenTelemetry构建，促进供应商中立性。
• •它为LLM特定组件提供检测。
• •它允许跟踪整个系统执行。
• •它与现有的监控平台（如Datadog和Sentry）集成。