随着人工智能技术的不断发展，生成式AI领域愈发热火朝天。如今，“All in AI”已经成为几乎所有科技企业的共识。互联网企业在AI技术的驱动下不断重塑业务和软件，终端厂商也在竞相抢滩“AI手机”、“AI PC”。而在这股浪潮中，芯片和解决方案提供商也在用AI重新定义芯片。
高通的异构计算引擎
高通最近发布了《通过NPU和异构计算开启终端侧生成式AI》白皮书，详细解读了他们如何利用NPU和异构计算满足终端侧生成式AI的多样化需求。高通的异构计算引擎包含CPU、GPU、NPU以及高通传感器中枢等不同处理器组件，共同协作以提供优异的体验。
不同处理器组件的角色
在异构计算引擎中，不同处理器组件扮演着不同的角色。CPU擅长顺序控制，适用于低时延的应用场景；GPU主要用于高精度格式的并行处理；而NPU在持续型任务中表现出色，能够以低功耗实现持续稳定的高性能。
Hexagon NPU的演进
高通的Hexagon NPU经历了长期的演进，不断提升AI处理能力。从最初的标量和向量运算扩展到如今支持LLM和LVM，Hexagon NPU已经实现了领先水平的性能。
未来展望
未来，高通将继续努力朝着对模态生成式AI的方向发展。在最近的MWC 2024上，他们展示了多模态生成式AI模型在终端上的运行，为用户带来全新的体验。高通也致力于提供领先的AI软件栈，支持各种主流框架和runtime，为开发者提供丰富的工具和资源。
通过这份白皮书，我们可以看到高通在终端侧生成式AI的全面布局和领先实力。利用异构计算和Hexagon NPU，高通正在为终端侧生成式AI应用的规模化扩展提供强大支持，将AI技术带入更多终端产品领域，实现全面智能化。
高通的努力和成就将助力AI技术在终端侧的广泛应用，为用户带来更便捷、智能的体验。
