COCONUT的伪推理：因果与对抗分析

本文批判性地研究了大型语言模型（LLM）中的Chain-of-Continuous-Thought (COCONUT) 方法，揭示了它依赖于捷径和数据集伪影，而不是真正的推理。该研究使用引导和捷径实验来证明COCONUT的弱点，将其定位为一种生成合理轨迹以掩盖捷径依赖的机制。这挑战了声称与显式Chain-of-Thought (CoT) 相比，在保持性能的同时提高了效率和稳定性的说法。

• •COCONUT代币充当不可解释的占位符，而不是编码忠实的推理。
• •COCONUT利用数据集伪影，导致基准测试性能膨胀。
• •COCONUT是一种伪推理机制，掩盖了对捷径的依赖。