Together AI 在 AI Native Conf 上推出突破性进展
分析
Together AI 在 AI Native Conf 上的发布令人难以置信的兴奋，展示了快速的研究到生产的流程。 他们对内核、强化学习和算法推理优化的关注，预示着客户将取得重大进展。 尤其是为 NVIDIA Blackwell GPU 调优的 FlashAttention-4 的发布，是一次重大的飞跃。
要点
- •Together AI 宣布了在内核、强化学习和算法推理优化方面的几项新的研究和产品发布。
- •FlashAttention-4 比 Triton 快 2.7 倍，比 cuDNN 9.13 快 1.3 倍。
- •这些公告突出了该公司快速的研究到生产能力。
引用 / 来源
查看原文"FlashAttention-4 将新算法与专为 NVIDIA Blackwell GPU 调优的内核协同设计相结合，消除了新的瓶颈，使张量核心保持繁忙状态。"