高通万卫星:端侧部署智能体AI是挑战,也是机遇

内容摘要GSMA 2025 MWC上海昨日正式拉开帷幕,6月19日,在大会期间的AI终端峰会上,高通公司AI产品技术中国区负责人万卫星就高通对推动智能体AI在终端侧部署方面的看法与规划进行了阐述。对于智能体AI终端侧部署方面有何规划,万卫星表示,智

联系电话:400-962-3929

GSMA 2025 MWC上海昨日正式拉开帷幕,6月19日,在大会期间的AI终端峰会上,高通公司AI产品技术中国区负责人万卫星就高通对推动智能体AI在终端侧部署方面的看法与规划进行了阐述。

对于智能体AI终端侧部署方面有何规划,万卫星表示,智能体AI正在重塑终端消费者的交互界面,高通相信,AI将成为新的UI,并且高通已经开始了技术储备,目前端侧小模型的算力、性能和能效正在逐渐升级,AI已能支持跨边缘侧规模化部署的应用。与此同时,高通正通过打造领先的异构计算技术,更高效的端到端解决方案和强大的软件栈,为端侧智能体AI部署的全流程提供支持。

作为最早展示大模型可以完全在边缘运行的芯片平台厂商之一,高通非常重视生成式AI和智能体AI。万卫星提出,在硬件层面高通能提供集成定制化CPU、GPU、NPU和低功耗子系统的行业领先系统级芯片,既能保障终端侧高性能、高能效的 AI 推理,又能在兼顾电池续航与整体能效的同时,轻松应对复杂 AI 任务。

高通不仅拥有手机、汽车、PC等丰富的产品线,还拥有支持应用面向这些广泛产品线进行开发和扩展的软件和工具支持,这就为端侧模型的发展和规模化部署提供了广泛的生态支持,从而为更多行业带来高性能、经济实惠、快速响应和关注隐私的变革性AI体验。

具体来说,高通通过统一的高通AI软件栈帮助客户将端侧模型扩展至更多终端产品之上,并为开发者提供跨不同边缘终端领域的统一工具、框架和SDK,赋能开发者在边缘侧加速采用AI智能体和应用,使开发者可以更轻松适应不同的环境和情况。

万卫星表示,高通已经推出了高通AI规划器(Qualcomm AI Orchestrator)这一端侧解决方案,它可以整合用户的个性化偏好、本地情境信息以及终端侧应用与服务功能,在终端侧引入智能体AI体验。举例来说,在AI规划器的支持下,用户可以要求AI智能体规划自己和家人一起用餐,智能体能整合用户以往的聊天信息及家人的兴趣爱好,自动分析出合适的餐厅,并自主调用用户常用的应用程序预订座位,然后在日历上预留时间,甚至规划好行车路线。

万卫星还强调,随着AI能力的升级,用户对隐私、安全以及个性化的要求越来越高,更全面的智能体AI需要依托高通强大的端侧AI处理能力、统一高效且灵活的AI软件栈,同时也离不开端到端的高通AI规划器等解决方案,以及各类传感器中枢提供的实质性辅助。这种面向未来的强大技术基础设施,使高通能够不断满足AI日新月异的需求。

展望未来,高通也将持续引领AI推理创新时代,利用AI从大规模训练向大规模推理转型的趋势,与客户、合作伙伴,包括整个生态系统共同推动智能体AI体验在端侧的发展,实现“AI是新的UI”的未来愿景。

 
举报 收藏 打赏 评论 0
今日推荐
浙ICP备19001410号-1

免责声明

本网站(以下简称“本站”)提供的内容来源于互联网收集或转载,仅供用户参考,不代表本站立场。本站不对内容的准确性、真实性或合法性承担责任。我们致力于保护知识产权,尊重所有合法权益,但由于互联网内容的开放性,本站无法核实所有资料,请用户自行判断其可靠性。

如您认为本站内容侵犯您的合法权益,请通过电子邮件与我们联系:675867094@qq.com。请提供相关证明材料,以便核实处理。收到投诉后,我们将尽快审查并在必要时采取适当措施(包括但不限于删除侵权内容)。本站内容均为互联网整理汇编,观点仅供参考,本站不承担任何责任。请谨慎决策,如发现涉嫌侵权或违法内容,请及时联系我们,核实后本站将立即处理。感谢您的理解与配合。

合作联系方式

如有合作或其他相关事宜,欢迎通过以下方式与我们联系: