学生が開発した再帰混合LLM、GPT-2 Mediumを凌駕

学生が「再帰混合」と呼ばれる新しい大規模言語モデル (LLM) アーキテクチャを開発し、顕著な性能向上を達成しました。この革新は、創造的なモデル設計と、容易に入手可能なリソースを使用した効率的なトレーニングの可能性を示し、研究の新たな道を開きます。