本地部署生成式AI，选显卡or笔记本电脑？！新款酷睿Ultra举票

news2024/10/6 22:27:42

来源 | 算力豹

200亿个大模型参数无压力，新一代酷睿Ultra凭什么？

12月14日报道，在大模型军备竞赛如火如荼的今天，真正让AI铺开惠民，那么移动端、PC将成为首选，AI PC或成标配。英特尔今日奉上AI硬件大招，正式推出AI PC处理器代号Meteor Lake的酷睿Ultra处理器。

本地部署生成式AI，

买显卡还是买笔记本电脑？

最近AI PC的概念炒得很火，PC产业能否乘着生成式AI的技术浪潮而迎来新一轮的发展呢？

这在很大程度上取决于人们在本地电脑上运行生成式AI模型的需求。

在本地电脑上运行生成式AI应用，在隐私安全管理、自定义程度、网络状况依赖和成本可控方面都有优势。

英特尔酷睿Ultra处理器改变了个人电脑仅依靠CPU就运行大语言模型的现状，是产业技术生态的一次大的变化。

在发布会上，英特尔发言人宣称英特尔酷睿Ultra处理器甚至可以运行200亿参数的大语言模型，而在此前，这种规模参数的模型都需要大容量显存的独立显卡才能完成。

考虑到实际体验，需要模型能快速完成推理。

从介绍中了解到，英特尔酷睿Ultra处理器可以在1秒内生成512x512分辨率的图片，在6秒内生成1024x1024分辨率的图片，速度甚至超过依靠中端GPU来运行Stable Diffusion模型的性能表现。

对于用户来说，此前不得不购买一块中高端，有大容量的独立显卡才能在本地运行相关模型，而现在，这些用户可以在台式机上购置中高端显卡，与买一台带有英特尔酷睿Ultra处理器的笔记本电脑之间做出选择。

核显性能翻倍智能分配工作负载

全力支持智能混合算力

给人们的工作、学习和生活带来全新的价值体验的个人大模型，应该是可以用自然语言交互、具备智能混合算力、开放生态的私人个性化模型，这种大模型无疑需要质量极优的智能混合算力。

为满足AI PC市场对算力的要求，据英特尔描述，首批酷睿Ultra系列处理器包括U和H两个系列，基础功耗分别为15W和28W，其中：

U系列为2+8+2核心规格，最高4Xe核显
H系列最高6+8+2核心规格，最高8Xe核显

明年第一季度，英特尔还将发布基础功耗45W的Ultra9旗舰型号，6+8+2核心规格，8Xe核显。

此次发布会上，英特尔相关人员补充描述到：“酷睿Ultra是英特尔处理器家族中目前能效比最好的产品，这得益于我们对混合架构的全新设计。”

据英特尔中国区技术部总经理高宇描述，英特尔为酷睿Ultra创新设计了P核（Performance-core，性能核）与E核（Efficient-core，能效核），还在SoC模块中集成了两个超低功耗E核。

因此，酷睿Ultra整个系统有三种不同的核心。为此，英特尔重新设计了线程调度器，这意味着硬件线程调度器会优先考虑和管理工作负载分配，将任务发送到内核。英特尔相关人员描述其设计目标是“让正确的任务在正确的时间，运行在正确的核心上”。

Intel 4制程工艺打造最强能效比
内置NPU实现AI加速与本地推理

早在今年9月，英特尔CEO基辛格（Pat Gelsinger）便表示，酷睿Ultra是首款基于Intel 4制程工艺打造的处理器，代表英特尔40年来最重大的架构变革，并将成为英特尔最具能效比的客户端处理器。

英特尔中国区技术部总经理高宇谈道，Intel 4是英特尔计划实现“四年内5次半导体技术迭代”计划中的重要一环，这是该公司的首个EUV（极紫外光刻机）支持的工艺，有望显著简化工艺。

可实现AI加速与本地推理的内置NPU是酷睿Ultra处理器除了核显之外的另一秘密武器。据英特尔描述，酷睿Ultra处理器采用了英特尔首个用于客户端的片上AI加速器NPU（神经网络处理单元），将高能效AI加速提升到了新的高度，带来2.5倍于上一代产品的能效表现。据介绍，全新英特尔酷睿Ultra胜任多达200亿参数大语言模型。

让我们来看看，在产品形态上英特尔酷睿Ultra表现如何？

据英特尔数据，与AMD锐龙7 7840U等竞品相比，酷睿Ultra系列处理器中率先上市的旗舰型号Ultra 7 165H单线程性能超竞品12%，多线程性能超竞品11%。核显方面，酷睿Ultra7 165H所搭载的8Xe核显性能是上代的两倍，在超薄本的相同28W功耗范围内，Ultra 7 165H功耗比AMD锐龙7 7840U降低了79%。

结语

拥抱人人AI的终端新格局

AI PC需要软硬件基石

明年，据英特尔描述，酷睿Ultra处理器将在为全球笔记本电脑和联想、华硕等PC制造商的230多款机型带来AI特性。在软件方面，英特尔提到他们正与100多家软件厂商紧密合作，为市场带来数百款AI增强型应用。