终端侧生成式 AI 更多惊喜？高通将在 WAIC 带来新的“首个”演示

2024 年 7 月 4 日，万众瞩目的世界人工智能大会（WAIC）将在上海市揭幕。自 2018 年首次举办至今，WAIC 已走过六个年分，现如今，WAIC 已经成为全球ai领域极具权威和知名度的行业盛会。

在本次 WAIC 即将举办之时，终端侧 AI 引领者、管理者高通公布了将要登展 WAIC 消息，并立即引起了业内的普遍希望。

据统计，7 月 4 日-6 日期内，高通将带来一系列的主题演讲和直播带货采访，将全面共享 AI 技术性基础科研、领跑产品用途与未来行业赋能企业愿景上的最新进展。比如，交流会当日，高通企业中国地区老总孟樸将参加活动，并做出的主题是《促进终端侧 AI 发展趋势让智能计算无所不在》精彩的演讲，并且还有《相拥 AI 终端自主创新》等一系列直播间访谈类节目。

技术性展示环节更加是亮点频现，包含第一个在 Android 智能手机上运作大语言表达和视觉助手大模型（LLaVA）、骁龙 X Elite 终端里的剪辑软件 AI 视频剪辑作用、第三代骁龙 8 创变 Android 智能机产生自主创新终端侧生成式 AI 感受等。

这一系列技术性展现，无疑是高通企业在推进终端侧 AI 技术性界限扩展与行业生态合作方面的集中展现，更是对智能生活科技发展趋势的一次栩栩如生推测，非常值得一看了。

时下，生成式 AI 成为了领域备受瞩目的话题讨论，特别是随着生成式 AI 技术性在全球范围内数以亿计的终端里的广泛应用，以终端侧为主旋律的生成式 AI 的浪潮早已来临，而推动这一转型的核心力量，恰好是高通。

高通做为 AI 行业转型的赋能者，早已从基层处理芯片、到硬件软件生态文明建设，以及应用的实施，都做足了准备，不断引领行业发展自主创新。

例如在标准的制定上，上年，高通发布《混合 AI 是 AI 的未来》行业报告，明确提出云空间与智能机、车辆、本人电脑及物联网技术终端的协调工作，将促进更加强大、更高效且相对高度改善的 AI 发展趋势，这也是完成 AI 普惠的必然选择。在今年的，高通就推出了《根据 NPU 和异构计算打开终端侧生成式 AI》行业报告，深层次解析了 Hexagon NPU 为中心的异构计算技术性，并探讨了如何运用这类技术，在生成式 AI 需求激增的大环境下，为终端侧产生丰富多彩的生成式 AI 应用领域。

又比如在底层处理芯片层面，早就在 2015 年，高通就在那骁龙 820 软件上搭载了第一个 AI 模块；在如今的第三代骁龙 8 上，高通将性能卓越 AI 引入整个平台系统，选用面对生成式 AI 运用重新设计的 Hexagon NPU，够在终端侧运作达到 100 亿参数实体模型，不论是第一个 token 的形成速度还是每秒钟形成 token 的速率，都处于业界领先水准。比如在生成式 AI 语言逻辑实体模型 MobileBERT 上，第三代骁龙 8 表现比竞争对手 A 高 17%，在电脑鲁大师 AIMark V4.3、安兔兔评测这种 AI 统计检验的总成绩层面，第三代骁龙 8 都是远高于竞争对手。

更为关键的是，高通也将大语言模型完备的搬到端侧运作，创变众多 AI 手机上。例如包含三星、小米手机、荣誉、OPPO 、vivo 等在内的手机厂商，其公布的骁龙 8 Gen3 手机上，均已经具备在端侧运作生成式 AI 的能力。

依靠第三代骁龙 8 的 AI 能力，此次展会，高通都将展现第一个在 Android 智能手机上运作大语言表达和视觉助手大模型（LLaVA）。

除开手机端，在 AI PC 行业，高通也带来了骁龙 X Elite 和骁龙 X Plus PC 服务平台，凝聚着高通在通用性处理 AI 异构计算多年积累的科技成果，其集成化 NPU 更加是具备 45TOPS 的可怕算率，这也是 PC 平台上最厉害的 NPU。

时下，微软公司 Surface 系列新品，及其想到、Dell、hp惠普、宏基电脑、asus等企业，都公布即将发布配备骁龙 X 系列产品平台上的 Windows 11 AI PC 新产品。在此次展会现场，高通就把展现骁龙 X Elite 终端里的剪辑软件 AI 视频剪辑作用，可以期待，不论是消费者还是企业客户，依靠骁龙 X Elite 终端，都可以全天运用 AI 强化的终端侧专用工具来提高生产主力、想象力和合作能力。

值得一提的是，高通还积极践行 AI PC 生态系统基本建设，让开发人员能够获取根据异构计算的 AI 加快，高通打造出了 AI 软件栈（Qualcomm AI Stack）。它可以支持目前所有的流行 AI 架构，包含 TensorFlow、PyTorch、ONNX、Keras；它还支持全部热门的 AI runtime，包含 DirectML、TFLite、ONNX Runtime、ExecuTorch，以及支持不同类型的编译程序、数学课库等 AI 专用工具。

就在那 6 月份，高通也针对其 45 TOPS 的 Hexagon NPU 开发设计、提升并验证了 AI 实体模型。申请注册开发人员可以前往高通的 AI Hub 获得这种预训练模型，快速构建人工智能技术。据了解，高通 AI Hub 提供了各种对于骁龙 X Elite 芯片的边缘设备改善的 AI 实体模型，包含分类任务、对象检测、语义分割和生成式 AI 等行业。除此之外，AI Hub 还提供了便捷的工具文本文档，协助开发人员快速地在视觉、声频和语音等场景中布署 AI 实体模型。

所作的这一切，如同高通企业 AI 研发技术中国地区责任人万卫星所说：

高通具有顶级的异构计算能力，使 AI 能力可以贯穿 SoC，将 CPU、GPU、NPU 和高通感应器神经中枢的能力都全面释放给运用开发人员。

可以这么说，骁龙 X Elite / X Plus PC 平台上的发布，好似为 AI PC 的改变性爱经历奠定了过硬的路基，而借助骁龙 X Elite 服务平台强劲 AI 能力和高通在生态文明建设里的对外开放对策，下面会越来越多 AI 生成式运用的不断涌现。

在刚刚结束的 MWC 深圳展会上，高通 AI 研发技术中国地区责任人万卫星发布了“终端侧生成式 AI 未来的发展”的主题演讲，他提到，凭着面对生成式 AI 全新设计的 NPU 和异构计算系统，高通正在为终端侧 AI 产业化拓展提供了有力支持。除此之外，高通还致力于构建完备的 AI 绿色生态系统，持续推动 AI 科技的发展创新。

运用领跑边缘 AI、性能卓越低能耗运算前所未有的联接，高通正持续推动终端侧 AI 的产业化拓展，让智能计算无所不在。伴随着 WAIC（世界人工智能大会）的来临，可以期待，终端侧 AI 管理者的高通也将带来新的新的惊喜。

7 月 4 日-6 日，WAIC，大家当场见！

广告宣传申明：文章正文所含的对外开放跳转页面（包括不限于网页链接、二维码、动态口令等方式），用以传递更多信息，节约优选时长，结论仅作参考，电脑系统网全部文章内容均包括本声明。