2025年回顾：旧NLP方法悄然解决LLM无法解决的问题

这篇文章强调了前Transformer NLP技术在解决大型语言模型（LLM）局限性方面的复兴。它认为，曾经被认为过时的隐马尔可夫模型（HMM）、维特比算法和n-gram平滑等方法，现在正在被重新审视，以解决LLM无法解决的问题，特别是在约束解码、状态压缩和处理语言变异等领域。作者将Mamba/S4等现代技术与连续HMM，以及模型合并与n-gram平滑之间进行了类比。文章强调了理解这些旧方法对于解决LLM的“锯齿状智能”问题的重要性，即LLM在某些领域表现出色，但在其他领域则无法预测地失败。