Show HN: プロンプトを最適なLLMにルーティング

このHacker Newsの投稿は、大規模言語モデル（LLM）向けの動的ルーターを紹介しています。このルーターは、各プロンプトに最適なモデルとプロバイダーをインテリジェントに選択することにより、LLM応答の品質、速度、およびコスト効率を向上させることを目的としています。ニューラルスコアリング関数（BERTに類似）を使用して、さまざまなLLMの品質を予測し、品質、速度、およびコストに関するユーザーの好みを考慮します。システムはオープンデータセットでトレーニングされ、GPT-4をジャッジとして使用します。投稿では、スコアリング関数のモジュール性と、コストと速度のデータにライブベンチマークを使用していることを強調しています。全体的な目標は、より高品質で高速な応答を低コストで提供することです。