ASRと大規模言語モデルを用いた、音声-行動システム向け適応型エッジクラウド推論

この記事は、音声-行動システムのパフォーマンス最適化に焦点を当てた研究論文について議論している可能性が高いです。 自動音声認識（ASR）と大規模言語モデル（LLM）を分散型エッジクラウド環境で使用することを検討しています。 中核的な焦点は適応型推論であり、効率を改善し、遅延を削減するために、エッジデバイスとクラウド間で計算リソースを動的に割り当てるための技術を示唆しています。