语义欺骗：推理模型无法使用新符号进行简单加法运算

本研究论文探讨了大型语言模型（LLM）在面对新符号和误导性语义提示时，执行符号推理的局限性。研究表明，即使在简单的算术任务中，LLM也难以维持符号抽象，并且经常依赖于学习到的语义关联。这突显了LLM中的一个关键漏洞，表明它们可能并非真正“理解”符号操作，而是利用统计相关性。这一发现引发了人们对LLM在抽象推理和抵制语义偏差至关重要的决策场景中的可靠性的担忧。该论文表明，旨在改善推理的思维链提示可能会无意中放大对这些统计相关性的依赖，从而进一步加剧问题。

• •LLM在面对误导性语义提示时，难以进行符号抽象。
• •LLM倾向于依赖学习到的语义关联，而不是真正的符号操作。
• •思维链提示可能会放大对统计相关性的依赖，从而阻碍真正的推理。