他联合发明了Transformer。现在:连续思考机器 - Llion Jones 和 Luke Darlow [Sakana AI]
分析
这篇文章讨论了Transformer架构的共同发明人Llion Jones和Sakana AI的Luke Darlow提出的一个具有挑衅性的观点。他们认为,支撑着ChatGPT等现代人工智能的Transformer可能正在阻碍真正智能推理的发展。他们介绍了他们关于连续思考机器(CTM)的研究,这是一种受生物学启发的模型,旨在从根本上改变人工智能处理信息的方式。文章通过“螺旋”的类比突出了当前人工智能的局限性,说明了当前模型如何“伪造”理解而不是真正理解概念。文章还包括赞助商信息。
要点
引用 / 来源
查看原文"If you ask a standard neural network to understand a spiral shape, it solves it by drawing tiny straight lines that just happen to look like a spiral. It "fakes" the shape without understanding the concept of spiraling."