GLUE:勾配フリーのエキスパート統合

Research Paper#Machine Learning, Model Fusion, Optimization🔬 Research|分析: 2026年1月3日 16:28
公開: 2025年12月27日 04:59
1分で読める
ArXiv

分析

この論文は、新しいターゲットドメインのために、複数の事前学習された専門モデルを組み合わせるという課題に取り組んでいます。GLUEという新しい手法を提案し、フルバックプロパゲーションの計算コストを回避するために、勾配フリーの最適化技術(SPSA)を使用して、専門モデルの混合係数を学習します。これは、広範なトレーニングを必要とせずに、新しいドメインへの効率的な適応を可能にするため重要です。結果は、ベースライン手法と比較して改善された精度を示しており、このアプローチの実用的な価値を強調しています。
引用・出典
原文を見る
"GLUE improves test accuracy by up to 8.5% over data-size weighting and by up to 9.1% over proxy-metric selection."
A
ArXiv2025年12月27日 04:59
* 著作権法第32条に基づく適法な引用です。