迭代部署提升LLM规划能力

本文重点介绍了一种LLM的新型训练方法，表明迭代部署和用户策划的数据可以显著提高规划能力。与隐式强化学习的联系是一个关键见解，既带来了提高性能的机会，也引发了对由于未定义奖励函数而产生的AI安全性的担忧。

• •使用用户策划数据的LLM迭代部署可以提高规划能力。
• •后来的模型表现出涌现的泛化能力，发现了更长的计划。
• •该过程隐式地实现了具有未定义奖励函数的强化学习。
• •这种方法提供了显式RL的替代方案，依赖于数据策划。