随着骁龙8gen3的发布，一个新词条越来越多的出现在人们的视野中，那就是终端侧生成式AI。高通公司CEO安蒙说：“我们正在进入AI时代，终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。”那什么是终端侧生成式AI呢，骁龙8gen3率先带来的终端侧AI能够为我们的工作生活带来怎样的影响呢？

所谓终端侧AI，就是指将AI的处理和数据存储、计算等任务放在终端设备，例如智能手机、PC、笔记本、平板上面执行，不需要借助云端算力。而终端侧生成式AI，简单说，就是在智能移动终端上本地运行AI大模型。和在网络服务器和云端运算的AI不同，终端侧AI的优势在于低延迟、低功耗、高隐私保护、低成本以及运行可靠等几个方面。正是终端侧AI这些显著优势，让它越来越受欢迎，成为现阶段AI的主流趋势。

高通公司全球副总裁侯明娟在《混合AI是AI的未来》白皮书线下发布会上表示：“终端侧 AI 是实现混合式 AI 架构、扩展生成式 AI 至全球更广泛范围的关键。”高通公司CEO安蒙也在骁龙8gen3的发布会现场发言：“我们正在进入AI时代，终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。骁龙在助力塑造和把握终端侧生成式AI机遇方面独具优势，未来骁龙赋能的生成式AI体验将无处不在。”

目前，我们正在经历一场关于终端侧生成式AI的重大变革，而在这场对未来智能手机走向有着至关重要影响作用的技术革命中，高通是吹响前进号角的第一人，是终端侧AI 变革的重要技术提供者和行业驱动者。不少专业人士对明年的智能手机做出了相同的预测：端侧AI或在制程、频率、跑分等处理器评价关键指标之后，成为最新的行业新标准之一。

高通在终端侧生成式AI方面有着卓越的领导力和技术前瞻力，骁龙8gen3是高通旗下首款专为生成式AI而打造的移动平台，这是高通十几年来不断深耕AI领域的一次集中技术爆炸，在骁龙8gen3这里，高通进一步将AI推向了更高的方向。骁龙8gen3已经可以实现在端侧运行最高100亿参数大模型，如果是面向70亿参数的大语言模型可以做到每秒生成20个 Token，在不到一秒钟的时间，通过Stable Diffusion即可生成1张图片，也就说我们点一下屏幕的时间，一张富有创造力和表现力的图片随即完成了，这让我们对“妙笔生花”这个成语在现阶段AI技术的映衬之下，有了更加深刻而具体的理解。

骁龙8gen3强大的AI计算能力，是支持端侧生成式AI运行的基础，而Hexagon NPU正是此次骁龙8gen3的AI引擎系统的核心部分，是AI性能担当，也是能耗控制的灵魂所在。骁龙8gen3全新设计的新一代 Hexagon NPU带来了比前代提升98%的AI推理速度提升，以及40%的能效提升，这为终端侧丰富多样的生成式AI新体验提供了底层算力支持。这些强大的AI能力，让手机的日常使用体验发生了翻天覆地的变化，拍摄、游戏、内容创造，或是图像、或是音频、或是文本，全都能玩出与以往大相径庭的新花样出来。

不言而喻，终端侧生成式AI已经展现出强大的力量，逐渐接管现代社会智能生活的核心。

推荐阅读：旗龙网