提升LLM效率：探索生产系统中前缀缓存

这是一个关于优化大型语言模型 (LLM) 推理的引人入胜的探索！从数据库工程中汲取灵感，将前缀缓存作为数据移动挑战的潜在解决方案进行探索，有望带来LLM性能的令人兴奋的改进。将LMCache作为实际例子使用也特别值得关注。