Phind 模型在编码方面超越 GPT-4,速度达到 GPT-3.5 水平,并拥有 16k 上下文
分析
这篇文章宣布了一个新的 Phind 模型,在编码任务中优于 GPT-4,并且速度明显更快。它强调了该模型在 HumanEval 上的表现,并根据用户反馈强调了其实际的实用性。速度优势归功于在 H100 上使用 NVIDIA 的 TensorRT-LLM 库。文章还提到了该模型基于开源 CodeLlama-34B 的微调。
要点
- •Phind 发布了一个新的模型,在编码能力上超越了 GPT-4。
- •新模型比 GPT-4 快 5 倍。
- •该模型基于 CodeLlama-34B 微调。
- •该模型实现了 74.7% 的 HumanEval 分数。
- •速度优势归功于 H100 上的 TensorRT-LLM。
引用 / 来源
查看原文"The current 7th-generation Phind Model is built on top of our open-source CodeLlama-34B fine-tunes that were the first models to beat GPT-4’s score on HumanEval and are still the best open source coding models overall by a wide margin."