新公司有望革新人工智能推理

人工智能基础设施的格局正在迅速发展，两家来自加州大学伯克利分校的新公司旨在主导“推理堆栈”。这标志着从模型训练到高效模型服务的重心转移，为企业应用开启了令人兴奋的新可能性。这些发展标志着该行业的关键时刻。

• •vLLM 和 SGLang 的商业产品正在成为企业 AI 推理的关键参与者。
• •Inferact 获得了 1.5 亿美元的种子轮融资，估值为 8 亿美元。
• •RadixArk 从 SGLang 剥离出来，获得了 4 亿美元的估值。