高通万卫星:全力备战智能体AI,端侧部署技术革新进行时

   时间:2025-07-09 13:16 来源:ITBEAR作者:沈瑾瑜

在2025年GSMA MWC上海展会上,AI终端峰会成为了业界瞩目的焦点。高通公司AI产品技术中国区负责人万卫星在峰会上发表演讲,深入探讨了智能体AI的发展趋势及高通在此领域的推进情况。

万卫星指出,AI的发展正迈向新阶段,重心逐渐从云端向边缘终端转移,智能体AI正成为新的转型方向。智能体AI不仅重塑了终端用户的交互界面,更开启了一种全新的交互模式。为此,高通提出了“AI即新界面”的理念。

他进一步解释,用户现在可以通过简单的自然语言指令驱动智能设备,完成一系列复杂操作。智能体AI不仅能理解用户指令,还能预测用户意图,协助用户进行规划和执行。随着端侧能力的提升,用户对隐私、安全和个性化服务的需求也日益增长。高通认为,未来的AI智能体将具备环境感知、个性化定制和安全可靠的特点。

在谈到智能体AI在终端侧部署的机遇与挑战时,万卫星表示,首先,要实现智能体AI的整体端侧部署,需要更强大的模型支持。当前,端侧模型正在迅速迭代,小模型的能力也在不断增强。高通已在去年的骁龙峰会上展示了端侧多模态模型的能力,未来小模型将支持更长的上下文,这对于端侧运行至关重要。

其次,为了提供更好的用户体验,需要更充沛的算力、更高的性能和能效。高通通过先进的异构计算架构,实现了AI模块在不同核心组件上的灵活运行,从而提升了整体性能和能效。

万卫星还强调,一个高效的端到端框架、解决方案以及强大的生态系统同样不可或缺。为此,高通推出了名为“规划器”的端到端解决方案,该方案可在端侧完全运行,并方便客户和开发者单独调用其核心组件。

作为一家专注于基础技术创新的公司,高通为AI的到来做了全面准备。在硬件层面,高通将AI需求融入芯片设计的全过程,提供了包括高算力、低功耗的NPU、CPU、GPU以及传感器中枢等多种IP组件,以满足智能体AI中不同模块对硬件的多样化需求。

在软件层面,高通也取得了显著进展。为了确保新模型能够高效地在设备上运行,高通提供了高效的转换工具和工具链。同时,针对其丰富的产品线,高通还构建了一个统一的AI服务平台,帮助客户轻松地将模型移植到其他产品上。

高通还为智能体AI提供了专门的端到端解决方案——规划器。该规划器能够通过自然语言帮助用户完成任务,支持复杂的任务执行。它具备意图理解能力,能够协助任务编排,并利用用户手机中的本地个人知识图谱和向量库,提供更为智能和个性化的服务。

万卫星总结道,尽管端侧部署智能体AI面临挑战,但同时也带来了更多机遇。高通已做了丰富的技术储备,并与行业内合作伙伴紧密合作,共同推进智能体AI在端侧的部署。

 
 
更多>同类内容
全站最新
热门内容