英伟达 Jetson 通过开源模型赋能边缘人工智能
分析
英伟达正在掀起波澜,将生成式人工智能 (生成式人工智能) 模型的强大能力从数据中心带到边缘! 他们的 Jetson 平台与各种开源 (开源) 模型相结合,正在使 Cat AI 助手等设备能够进行实时 推理 (推理),展示了令人印象深刻的能力。
要点
- •英伟达 Jetson 专为工业和机器人系统中的实时 推理 (推理) 而设计。
- •Cat AI 助手演示利用英伟达 Nemotron 语音模型进行自然语音交互。
- •该系统使用本地提供的 Qwen3 4B,无需云连接即可提供低 延迟 (延迟) 响应。