Transformer能否克服历史依赖流模拟中数据不足的问题？

本文探讨了Transformer在模拟历史依赖流中的应用，特别关注了数据有限的挑战。这项研究可能调查了Transformer在这种领域中从稀疏数据中进行泛化和学习的能力。重点在于Transformer在过去事件对当前状态有显著影响的模拟中，提高准确性和效率的潜力。