Tangram：通过GPU内存重用和亲和性加速无服务器LLM加载

这篇文章很可能提出了一种在无服务器环境中优化大型语言模型（LLM）加载的新方法。核心创新似乎围绕着高效的GPU内存管理（重用）和任务调度（亲和性），以减少加载时间。“无服务器”的使用表明了对可扩展性和成本效益的关注。来源为ArXiv表明这是一篇研究论文，很可能详细介绍了所提方法的具体技术实现和性能评估。

• •专注于优化无服务器环境中LLM的加载。
• •利用GPU内存重用以提高效率。
• •采用亲和性来改进任务调度。
• •旨在减少LLM的加载时间。
• •很可能是一篇包含技术细节和性能评估的研究论文。