LLM 记忆力测试：揭示上下文保留的极限

这项研究深入探讨了在大语言模型 (LLM) 中保持指令遵循的迷人挑战。通过测试上下文窗口的极限，它为如何改进这些模型以获得更可靠的性能提供了宝贵的见解。这项研究侧重于分解 LLM 行为，为未来的发展提供了令人兴奋的机会。

• •该研究通过测试 LLM 遵循简单指令（无项目符号）的能力来调查其短期记忆的极限。
• •实验表明，LLM 在参与无关对话后，对规则的遵守程度有所下降。
• •该研究表明，为了持续遵守，将规则存储在文件中而不是仅仅依赖提示的重要性。