大语言模型像瑞士军刀一样学习：上下文结构揭示动态策略

这项研究探讨了大型语言模型 (LLM) 在上下文学习中如何调整它们的表征几何。这项研究揭示了一个引人入胜的二分法，表明LLM根据任务结构动态地选择不同的策略，从而提高预测性能。

• •LLM的表征直线度在持续预测设置中增加。
• •在结构化预测中，直线化仅发生在具有显式结构的阶段。
• •这项研究表明，LLM 根据任务采用不同的策略。