太平洋科技笔记本

AI势头不可阻挡！英特尔Ultra笔记本NPU能力体验

小烂毛编辑：王珅发布于：2023-12-19 20:17 PConline原创

部署一个既能配音，又能陪聊，还能帮你画画的AI小助手，或许已经成为大家未来的工作目标了。然而，似乎每当我们使用AI应用（比如AI抠图、AI背景替换）时，笔记本电脑似乎很容易就遇到“瓶颈”：不仅会开始卡顿，还呼呼作响，甚至续航时长也开始大幅缩减。

为此，Intel在今年中宣布了AI PC计划，且很快在年底推出了Meteor Lake架构的酷睿Ultra处理器，堪称是有史以来提升最大一代处理器，具体特性如下：

1. Intel 4制程工艺，提升了超过20%的性能和能效。

2. 全新三级核心结构，增加AI计算单元NPU。

3. 集成显卡性能提升1倍。

其中，最引人注目的便是那颗新加入的“NPU” (神经网络处理单元)。

我们可以将它比作理器里的AI小助手，它的存在就是为了提升用户的AI应用体验。

在发布会中，Intel介绍Ultra处理器的NPU适用于持续的AI和分担AI负载。

不难想象，拥有NPU的AI PC会有如下体验上的提升：

1. 更快的语音识别和语音助手响应速度

2. 更流畅的人脸识别和解锁

3. 更高效的图像识别和处理

4. 更智能的背景美化和视频效果

5. 甚至可以流畅运行大参数AI模型

最近，我们收到一台搭载Meteor Lake架构酷睿Ultra 155H处理器的华硕灵耀14 2024轻薄本，趁热做了个AI性能和应用测试。

通过UL Procyon AI Inference Benchmark推理性能基准测试（涵盖MobileNetV3、InceptionV4、YOLOV3、DeepLabV3、Real-ESRGAN和ResNet50等多种神经网络模型）发现，Meteor Lake的AI推理能力是Arc iGPU（核芯显卡）为先，NPU其次，最次为CPU。

检测整机功耗发现，NPU的AI计算效能要远高于CPU，且高于GPU（Intel曾表示，NPU整体能耗比相比最多可以提升8倍之多）。

这说明NPU非常适合笔记本电脑这类对能效要求极高的移动设备，可用来承担持续性的低计算量AI应用计算——目的是减少整机功耗，提升续航。

那么，当我们的笔记本电脑拥有NPU后，可能就会有两个比较直观的感受：

1．使用能进行AI运算的程序时，续航不容易“崩”了——NPU的AI运算能效比更高。

2．支持AI运算的AI应用更流畅了——NPU可释放CPU和GPU的运算压力，物尽其能。

不过，实际应用方面笔者尚未测试成功，因为在测试该产品时还处于产品保密阶段，市面大部分应用程序（包括Team、剪映、SD、LLM等）尚未支援NPU硬件加速（仍然主要依靠CPU和GPU计算）。

↑Teams视频虚拟背景，NPU未启动，仍依靠CPU和GPU加速

可以预见的是，随着NPU处理器落地，大多数AI应用将会迅速适配，整机能效会因此得到进一步的提升。不过实际适配结果如何，目前只能说“未来可期”。