革命性的LLM推理：RTX 5070 Ti RT核心为MoE模型带来218倍加速

这项绝妙的创新重新利用了消费级GPU上闲置的光线追踪硬件，极大地加速了大语言模型 (LLM) 的推理。通过将混合专家路由卸载到RT核心，作者实现了惊人的218倍加速和731%的VRAM使用减少，同时保持了95.9%的出色路由准确率。此外，关于专家按句法类型而非主题进行专业化的意外发现，彻底重新定义了我们对这些复杂模型内部如何组织知识的理解。