Show HN: 将您的提示路由到最佳 LLM

这篇 Hacker News 帖子介绍了一个用于大型语言模型 (LLM) 的动态路由器。该路由器旨在通过智能地为每个提示选择最合适的模型和提供者来提高 LLM 响应的质量、速度和成本效益。它使用一个神经评分函数（类似 BERT）来预测不同 LLM 的质量，并考虑用户对质量、速度和成本的偏好。该系统在开放数据集上进行训练，并使用 GPT-4 作为评判者。该帖子强调了评分函数的模块化以及使用实时基准进行成本和速度数据。总体目标是以更低的成本提供更高质量和更快的响应。