芯片巨头逐鹿 NPU 领域,谁能脱颖而出
如今,人工智能已经广泛赋能于从搜索工具到视频通话等各种功能之中。然而,一些笔记本电脑在运行这些功能时却显得力不从心,难以达到流畅的效果。这主要是因为某些 CPU 并非专门为高效处理实时 AI 任务而设计。在首次购买电脑时,大多数消费者可能会重点关注 CPU 和 RAM 的规格,而往往忽略了电脑是否配备 NPU。不过,这种情况正在逐渐发生改变。
NPU,即神经处理单元,其主要功能是处理诸如背景虚化、实时字幕和语音隔离等 AI 功能,并且不会给 CPU 带来过载压力。这一特性不仅能够有效延长电池的续航时间,提升电脑运行的流畅度,还能让应用程序即使在后台长时间运行也能保持快速响应。这些优势听起来十分诱人,但它在日常使用中真的能发挥显著作用吗?答案是肯定的,尤其是在运行 AI 功能时,用户能立即感受到它带来的改变。
使用 AI 确实充满乐趣,但它最大的弊端就是需要消耗额外的电量。随着电脑处理的任务日益增多,用户会发现自己需要更频繁地为电脑充电。这就如同在日常生活中增加了一些琐碎的事情,虽然每件事看似微不足道,但积累起来就会让系统的耗电量大幅增加。Enovix 的一项研究甚至表明,一个 AI 模型创建一幅图像所消耗的能量相当于给手机充满电。如果笔记本电脑没有配备 NPU,GPU 和 CPU 就必须更加努力地工作来处理 AI 任务。
NPU 的出现很好地解决了这一问题,它接管了通常由 CPU 处理的 AI 任务。与 CPU 相比,NPU 能够以更低的功耗执行相同的任务,从而有效延长电池续航时间,让笔记本电脑在无需充电的情况下能够持续运行更长时间。
在用户还未了解 NPU 之前,诸如背景虚化或实时字幕之类的 AI 功能通常是由 CPU 或 GPU 驱动的。这就导致其他应用程序的运行速度会受到影响,尤其是在同时打开多个应用程序进行多任务处理时,这种情况会更加明显。而现在,NPU 可以专门处理这些 AI 任务,让系统的运行速度得到显著提升。NPU 能够高效处理矩阵乘法,这是 AI 经常使用的重复性数学运算,而 GPU 和 CPU 的设计初衷并非专注于此。
用户可以在编辑 Google 文档文件、打开多个 Chrome 标签页浏览网页,或者在不同应用之间切换时,即使后台运行着 AI 特效,系统也不会出现迟缓的现象。一旦使用搭载 NPU 的笔记本电脑,用户就能明显感受到速度的大幅提升。应用程序的打开速度更快,运行更加流畅,并且在使用 AI 相关程序时也不会出现卡顿的情况。
在 Copilot + PC 上,NPU 提供了旧款笔记本电脑无法实现的功能。其中,Recall 是一项备受关注且颇具争议的功能。它会构建一个可搜索的时间线,记录用户在 PC 上看到或做过的所有事情。用户可以通过搜索 “上次 Team 通话中穿红衬衫的人” 或 “我在好莱坞星光大道上的照片” 等内容,Recall 无需知道具体的保存位置就能快速找到相关信息。
Paint 中的 Cocreator 功能也十分强大,它可以让用户勾勒出大致的形状,描述自己的需求,并将其转换为图像。即使用户不擅长绘画,该功能也能提供有效的帮助。此外,NPU 还支持 Windows Studio 特效,包括眼神接触校正、人像光效以及使视频更具动感的滤镜等。这些功能可以立即应用,并且不会降低系统其他部分的运行速度。值得一提的是,即使没有互联网连接,实时字幕现在也可以进行翻译,因为所有功能都在设备上运行。
当 PC 配备了设备内置 NPU 时,Recall、Live Captions 和 Cocreator 等 AI 功能将不再依赖云端。所有功能都直接在笔记本电脑上运行,利用其硬件来处理文本、语音和图像。这意味着用户在使用这些工具时,无需连接云端,只需在设备上操作即可。以 Recall 为例,微软声称它会将用户的活动快照保存到与 Windows 帐户绑定的私人加密文件夹中。用户可以限制其记录的内容、暂停记录或阻止某些应用程序被添加。这些快照不会被上传或共享,所有内容都保留在用户的账户中。据微软表示,没有任何信息会被发送到云端或雷德蒙德公司,并且快照是经过加密处理的,只有在通过 Windows Hello 确认是用户本人之后才能查看。
片上 NPU 虽然可能不太引人注目,但它却在悄然提升着笔记本电脑的运行体验。应用程序响应更加迅速,AI 功能运行流畅,电池在高负荷压力下也能保持更好的续航能力。对于那些使用电脑进行工作、视频通话或创意创作的用户来说,拥有 NPU 后,会更加深刻地体会到它的重要性。
在芯片市场中,虽然 GPU 长期以来一直是各种高要求工作负载的默认加速器,但 NPU 的推出已经对现有的处理层次结构产生了冲击,使 PC 能够在不需要像 GPU 那样耗费大量能量的情况下,快速运行 AI 和机器学习工作负载。
到目前为止,NPU 在 PC 中最常见的实现方式是将处理器与 CPU 和 GPU 集成在片上系统上,例如英特尔酷睿 Ultra 200 系列、AMD Ryzen AI 300 系列和骁龙 X 系列芯片。不过,也有一些 PC 采用了独立于 CPU 或片上系统的独立 NPU 组件。例如,在英特尔在其 Core Ultra 100 系列中引入 NPU 之前,微软于 2023 年发布了一款 Surface Laptop,它使用了独立的英特尔 Movidius 视觉处理单元(英特尔 NPU 的前身)。
近期发布的戴尔 Pro Max Plus 笔记本电脑也备受关注,它使用了高通 AI 100 PC 推理卡。戴尔宣称该设备是 “世界上第一款配备企业级独立 NPU 的工作站”。据戴尔介绍,该推理卡包含两个 Cloud AI 100 数据中心处理器以及 64 GB 的 LPDDR4x 内存,使其能够在高达 75 瓦的散热范围内以每秒 450 万亿次运算 (TOPS) 的 8 位整数性能运行。
此外,还有一些不太知名的公司也在积极努力引入独立的 NPU。例如,总部位于加州圣克拉拉的初创公司 Encharge AI 早在 5 月份就宣布推出一款 200TOPS 的 NPU,其功耗低至 8.25 瓦,适用于 M.2 尺寸的笔记本电脑;同时,该公司还发布了一款四 NPU PCIe 卡,可提供约 1,000TOPS 的计算能力,从而实现所谓的 “以极低的成本和功耗实现 GPU 级计算能力”。
日前,AMD 的一位高级 PC 高管透露,公司正在积极探索独立神经处理单元的潜力,该单元有可能作为 PC 中独立 GPU 的替代品。AMD 客户端 CPU 业务负责人 Rahul Tikoo 在上个月 AMD Advancing AI 活动前举行的一次简报会上回答 CRN 提问时证实,这家总部位于加州圣克拉拉的公司正在 “与客户讨论” 专用加速器芯片的 “用例” 和 “潜在机会”,该芯片不是 GPU,但可能是神经处理单元 (NPU)。
Tikoo 发表上述言论之际,联想、戴尔科技和惠普等 OEM 厂商也正开始探索使用独立 NPU 和其他类型的专用加速器芯片,作为 PC 中 AI 工作负载 GPU 的替代品。例如,戴尔上个月宣布,将在新款 Dell Pro Max Plus 笔记本电脑中使用基于 NPU 的 Qualcomm AI 100 PC 推理卡。
“这是一组非常新的用例,因此我们正在密切关注这个领域,但如果你想进入这个领域,我们确实有解决方案 —— 我们能够做到。”Tikoo 表示。至于 AMD 何时推出这样的产品,Tikoo 表示他不能 “谈论未来的路线图”,并补充说 “处于(保密协议)之下”。不过,他也提到 “如果看看我们的技术和解决方案的广度,不难想象我们很快就能实现这一目标”。
AMD 系统集成合作伙伴 Sterling Computers 的首席技术官上周表示,他认为 AMD 利用从 Xilinx 收购的 AI 引擎技术作为 Ryzen 处理器中 NPU 组件的基础的方式 “为公司未来推出具有更快 NPU 性能的分立产品开辟了广阔的道路”。该公司首席技术官克里斯托弗・赛尔 (Christopher Cyr) 表示:“如果这个特定的 NPU 模块每秒可执行 50 TOPS(万亿次运算),那么加上两个,就能达到 100 TOPS。” 他的公司位于南达科他州北苏城,在 CRN 的 2025 年解决方案提供商 500 强榜单中排名第 54 位。不过,他也补充道,独立的 NPU 解决方案 “必须比独立的 GPU 消耗更少的能源”。
Cyr 还表示,AMD 在其处理器(包括 NPU)上支持 AI 软件的努力给他留下了深刻的印象。他以 AMD 的开源项目 Gaia 为例,该项目旨在在基于 Ryzen 的 Windows PC 上良好运行本地大型语言模型。他说:“他们在利用整个生态系统方面取得了很大进展。”
随着 NPU 技术的不断发展和应用,芯片巨头们在这一领域的竞争也日益激烈。未来,NPU 市场的格局将会如何演变,我们拭目以待。

热门文章
- 博通推出行业首个3.5D F2F封装技术,将赋能富士通2nm MONAKA处理器 2024-12-06
- 中国或将对博通等芯片公司发起反垄断调查 2025-02-11
- 富士胶片开始销售用于半导体EUV光刻的先进材料 2024-11-01
- Arm 崛起,英特尔股价受挫,芯片市场风云变幻 2025-05-15
- 浙大 “悟空” 类脑计算机诞生,960 颗类脑芯片开启计算新征程 2025-08-12
- Chiplet 深陷困局,突破之策大揭秘 2025-05-06
- HBM4 价格上扬:核心裸晶与代工模式的双重影响 2025-06-11
- 美光加速布局16-Hi HBM3E战场,进行最终设备评估 2025-01-16
- Syntiant以1.5亿美元完成收购楼氏电子消费级MEMS麦克风业务 2025-01-06
- 低 EMI PCB 设计:从原理到实践 2025-07-24