大規模プロンプトにおけるソフトマックスと線形アテンション：測定に基づく視点

この論文は、大規模言語モデルにおけるソフトマックスと線形アテンションメカニズムの関係性を、測定に基づく視点から探求しています。大規模なプロンプト入力のコンテキストにおけるパフォーマンス特性と潜在的な最適化を調査している可能性が高いです。