轻松在端侧部署DeepSeek,第四范式推出大模型推理端侧解决方案ModelHub AIoT
第四范式推出大模型推理端侧解决方案ModelHub AIoT,用户在端侧可轻松部署如DeepSeek R1、Qwen 2.5、Llama 2/3系列等小尺寸蒸馏模型,离线运行,并可灵活在多个模型之间切换,兼顾了模型压缩、推理性能,解决了部署与优化的复杂性。
2025年02月25日
查看详情