与Fatih Porikli合作，蒸馏Transformer和扩散模型，用于稳健的边缘用例 - #738

这篇文章来自Practical AI，讨论了Qualcomm在CVPR会议上展示的研究，重点关注AI模型在边缘计算中的应用。文章重点介绍了两个关键项目：“DiMA”，一个利用蒸馏大型语言模型来提高场景理解和安全性的自动驾驶系统，以及“SharpDepth”，一种用于生成精确深度图的扩散蒸馏方法。文章还提到了Qualcomm的设备端演示，展示了文本到3D网格生成和视频生成功能。重点是针对自动驾驶和视觉理解等现实世界应用的、高效且稳健的AI解决方案，这表明了将复杂模型部署在边缘设备的趋势。

• •Qualcomm正在积极研究和开发用于边缘计算的AI解决方案。
• •该研究侧重于蒸馏LLM和扩散模型等复杂模型，以提高效率和稳健性。
• •应用包括自动驾驶、深度估计和设备端生成式AI。