视觉语言模型的协作边缘到服务器推理

这篇文章可能讨论了一种通过在边缘设备和服务器之间分配推理工作负载来运行视觉语言模型 (VLM) 的新方法。 这可以提高效率、减少延迟，并通过在本地处理一些数据来增强隐私。 重点是协作推理，这表明一个系统会根据设备功能和网络状况动态分配任务。 来源是 ArXiv 表明这是一篇研究论文，可能详细介绍了所提出的方法、实验结果以及与现有方法的比较。