OpenLLMetry：基于OpenTelemetry的LLM可观测性

这篇文章介绍了OpenLLMetry，一个基于OpenTelemetry构建的开源项目，用于观察LLM应用程序。其主要卖点是其开放协议、供应商中立性（允许与各种监控平台集成）以及对LLM特定组件（如提示、令牌使用和向量数据库）的全面检测。该项目旨在解决LLM领域中现有封闭协议可观察性工具的局限性。专注于OpenTelemetry允许跟踪整个系统执行，而不仅仅是LLM，并易于与现有的监控基础设施集成。