2025年回顾：旧NLP方法悄然解决LLM无法解决的问题

这篇文章强调了前Transformer NLP技术在解决大型语言模型（LLM）局限性方面的复兴。它认为，曾经被认为过时的隐马尔可夫模型（HMM）、维特比算法和n-gram平滑等方法，现在正在被重新审视，以解决LLM无法解决的问题，特别是在约束解码、状态压缩和处理语言变异等领域。作者将Mamba/S4等现代技术与连续HMM，以及模型合并与n-gram平滑之间进行了类比。文章强调了理解这些旧方法对于解决LLM的“锯齿状智能”问题的重要性，即LLM在某些领域表现出色，但在其他领域则无法预测地失败。

• •前Transformer NLP技术正在卷土重来。
• •LLM存在一些旧方法可以解决的局限性。
• •理解经典的NLP对于提高LLM的性能至关重要。