这份名为《AI变革正在推动终端侧推理创新》的白皮书说，该模型凸显科技行业在打造高质量小语言模型和多模态推理模型方面的创新，以及这些创新正在为AI的商业应用和终端侧推理落地做好准备。
白皮书说，在训练成本下降、快速推理部署和针对边缘环境的创新推动下，AI正经历重要变革。科技行业不再仅仅聚焦于竞相构建更大的模型，而是转向如何在边缘侧实际应用中高效地部署模型。对大型基础模型的蒸馏已催生大量更智能、更小型、更高效的模型，使各行业能够更快地规模化集成AI，特别是在终端侧加速集成。
高通公司总裁兼首席执行官安蒙表示，近期发布的DeepSeek-R1及其他类似模型展示了AI模型发展速度越来越快，它们变得更小、更强大、更高效，并且可以直接在终端侧运行。DeepSeek-R1的蒸馏模型在发布仅几天内就能在搭载高通骁龙平台的智能手机和个人电脑上运行。随着人类进入AI推理时代，预计推理将越来越多地在终端侧运行，使AI变得更便捷、可定制且高效。
共0条 [查看全部] 网友评论