美国东部时间5月20日在微软位于华盛顿的新园区举行的发布会上,宣布将旗下AI助手Copilot全面融入Windows系统,能够在不调用云数据中心的情况下处理更多人工智能任务。
“将世界作为一个提示词就从Windows系统开始”。微软的新PC将是“Copilot+PC”,是“有史以来速度最快、最适合AI的PC”。
Copilot + PC 十大亮点
一: Copilot+ PC的核心是人工智能
Copilot+ PC围绕神经处理器构建,支持AI功能,使其成为有史以来最快、最智能的Windows PC。该笔记本电脑能够每秒执行超过40万亿次操作,旨在轻松处理要求苛刻的AI任务。
二: Recall:记忆
Copilot+ PC的旗舰功能之一是Recall,这是一个由人工智能驱动的功能,可以为您在PC上所做的和看到的所有内容创建一个可搜索的“照片存储器”。这意味着您将能够轻松找到和回忆信息,从而更容易保持井然有序和专注。
这个功能还能够检索用户在电脑上做过的任何事情——例如参加过的电话会议,或者某个文件具体某一页,以及浏览过的网页。
三: Cocreator:人工智能驱动的图像生成
Cocreator是另一个创新功能,允许您直接在设备上近乎实时地生成和细化AI图像。这为需要处理图像和图形的创意人员和专业人士开辟了新的可能性。
四: 实时字幕:打破语言障碍
实时字幕是一项将40多种语言的音频翻译成英语的功能,使跨语言障碍的沟通和协作变得更加容易。这对需要与来自不同语言背景的人联系的全球企业、教育工作者和个人有重大影响。
五: 更深入的AI系统级融合
Copilot很快将用上OpenAI刚发布的GPT-4o。发布会上,Copilot用语音指导用户如何在《我的世界》游戏中挖矿。
六:协作和生产力的新时代
Copilot+ PC旨在实现无缝协作和生产力。借助AI的力量,能够更高效地管理任务、时间表和工作流程,自动执行重复性任务,并专注于推动结果导向的高价值任务。
七: 安全改进:
利用AI增强安全功能,旨在更好地抵御网络威胁并确保用户数据隐私。
八: 开发人员工具和API:
为开发人员创建AI驱动的应用程序的新工具和API,使AI功能更易于集成到他们的软件中。
九:生态合作
宣布与合作伙伴一起进一步开发和采用人工智能技术。下个月第一批Copilot+PC上市的同时,谷歌Chrome、Spotify、Zoom、视频剪辑软件DaVinci Resolve,以及多款Adobe软件都将原生支持为Arm芯片开发的Windows系统。
十: 可用性和定价
第一波Copilot+ PC可供预购,价格从999美元起。但这个价格只能买到LCD屏幕和一颗X Plus处理器。如果想要X Elite芯片和OLED屏幕,最少要花费1500美元。
这些亮点凸显了微软在人工智能创新方面的持续努力,并将这些进步整合到他们的生态系统中,以改善用户体验和生产力。
系统需要至少16GB的RAM和256GB的存储空间以适应大型语言模型(LLM;即使是微软的Phi-3等所谓的“小语言模型”,仍然使用数十亿个参数)所需的内存需求和磁盘上存储要求。所有骁龙X Plus和Elite驱动的PC都将预装Copilot+功能,并于6月18日开始发货。
NPU被认为是人工智能加速器,是PC的新组件,专门设计用于执行某类特定任务,比仅在CPU或GPU上运行要快得多,功率更高。
微软这次推出的Copilot + PC需要每秒40万亿次操作(TOPS)的NPU,目前只有Windows PC生态系统中的单个芯片才能满足这一要求,该芯片甚至还不完全可用:高通的Snapdragon X Elite和X Plus,在未来几个月内将在新的Surface和戴尔、联想、惠普、华硕、宏碁和其他主要PC OEM等一些PC上推出。所有这些芯片都有能够达到45个TOPS的NPU。
英特尔和AMD的问题在于当前一代的芯片都没有接近这一要求,即使是那些最初拥有NPU的芯片——英特尔基于Meteor Lake的Core Ultra NPU是10 TOPS,少数AMD Ryzen 7000和Ryzen 8000台式机和笔记本电脑处理器的NPU在12-16 TOPS之间。这对英特尔来说尤其令人尴尬,几十年来,英特尔一直是Windows PC的代名词。
满足微软Copilot+ PC要求的NPU将用于为微软“Recall”的一组功能提供动力,将通过跟踪PC上所做的一切来提供有用的建议,包括参加会议、打开文件和进行网络搜索。听起来像是隐私和安全噩梦,微软执行副总裁Yusuf Medhi表示,NPU将在本地处理,允许用户数据“仅在设备上保持私密、本地和安全”。在最低256GB固态硬盘的Copilot+ PC上,Recall将占用约25GB的磁盘空间,并存储大约三个月时间。
英特尔和AMD的CPU及GPU也可以为任何指定系统可执行的TOPS总数做出贡献。但NPU是专门的硬件,可更快地运行AI工作负载,且使用更少的电力。当然也可以使用CPU渲染3D游戏或其他工作负载,但通常会将这项工作留给GPU。专用视频编码和解码硬件允许Roku盒子或Fire中缓慢、便宜的ARM处理器播放4K视频流。NPU在AI工作负载中扮演了类似的角色,然而使用CPU和GPU实现该性能则意味着更多的电力且减少电池寿命。
AI PC前景展望
微软的这次发布会再一次让人们将目光聚焦在AI PC。
生成式AI (GenAI) 变革了人们对计算、创作、生产、通信等问题的思考,激励着全球利用这项技术来创造影响。这种影响也正在从GenAI扩展至许多现有的“传统”AI应用。从图像和视频分析与编辑,到办公效率、会议记录和总结、3D建模和纹理渲染、图像/视频中的对象擦除等,各种AI应用都开始进入全新时代。除此之外,由于以AI为中心的现有计算资源可以开始被加以利用,人们也开始以新的视角去看待更多“传统”AI应用,如背景模糊和音频降噪等。
之前基于AI的计算,人们关注的是在云中运行的应用和服务。但实际上,在PC及其他客户端设备上直接运行这些应用可带来许多有趣的新机遇。不仅在快速成为现实,而且在某些情况下,本地运行AI的性能和输出也会更高。当人们在自己的设备上使用数据,而不是将其发送至公有云环境时,隐私性和安全性相关的优势也非常显著。
过去几个月端侧AI和GenAI解决方案取得了巨大的进步,使得一些可能性正在成为现实。由于开源基础模型的快速发展和缩小,以及模型量化等技术的进步,许多行业观察者认为未来几年客户端设备上都无法实现的技术可能会突然在未来几个月内成为现实。设备端的创新速度甚至比GenAI的整体进步速度还要快。
由于GenAI工具采用率的飞速增长以及大量新产品的上线,现有公有云数据中心基础设施根本无法满足所有的预期需求,基于云的资源在电力方面也颇有顾虑。围绕成本、安全性和效率的问题都表明在云中运行所有或者大部分AI工作负载并不是长期可持续的选择。AI应用势必要保持持续的发展势头,端侧AI解决方案变得至关重要。更多AI工作负载必须转移至PC。
2024势必将成为AI PC元年,多家处理器厂商将陆续发布AI算力更强且整合NPU的新款处理器。同时AI PC正处于产品预备阶段,处理器大厂积极与软件开发商合作,开发丰富的终端应用以打造全新体验的新形态PC产品。预计2025年PC品牌大厂将推出软硬件一体化更为完善的AI PC。
AI PC产业生态布局
AI PC 带来更加混合、协作的时代。处理器厂商加速布局,2024下半年有望推出新品。操作系统厂商预计2024下半年推出新一代系统平台支持AI PC软硬一体。AI模型厂商在云和端侧双向发展。两者在模型训练和推理有各自优势,可根据不同情境进行选择。供应链大厂有望释放开源架构及工具以协助更多软硬件厂商加入其生态,共同开发创新AI应用。人机互动模式改变,云边协作能力提升,使用体验增长,硬件规格将会有所升级,从而带动供应链ASP增长。同时品牌厂商加速AI应用开发,差异化产品将会增值。
AI PC应用场景
目前已经出现了许多利用AI功能的PC应用和系统级功能。微软的Windows Studio Effects 已经面向NPU经过专门优化,可在具有NPU的PC上用该组件来运行,在实时消息传递功能中实现增强的视频背景模糊和音频降噪效果。特别一提的是在PC的CPU或GPU上运行相同功能相比,NPU的效率明显更高。
新版Adobe Lightroom 和Vegas Magix 纳入了GenAI图像和视频增强技术,并可使用本地PC NPU 来加速工作。此外,市场上开始推出其他无需基于云连接就能运行的GenAI图像生成工具。与所有本地运行的应用一样,这大大提高了使用这些应用时的隐私性和安全性,因为云端再也无法采集到任何信息。 近期 LLM模型规模的减小对提升PC应用通用性的潜在影响也不容小觑。
尽管微软的新版M365与谷歌的新版Workspace生产力工具套件目前都还在利用云实现大多数GenAI功能,但如果可以通过这些规模更小的LLM直接在PC上执行其中一部分功能, 其发展前景将十分诱人。用户可以使用自己(或公司内部)的数据对这些LLM进行定制。与所有要在云中访问的工具相比,这种基于本地存储或公司内网存储数据进一步定制的能力能够打造出更强大、更优化的工具。此外,所有数据存储在本地设备上可以更快速地执行这些操作,这也体现端侧AI应用的价值。
也有许多公司开始探索另一个有趣的方向——混合式AI,即一项工作的某些部分在云中完成,其他部分则在PC上完成。例如图像编辑程序在PC上创建了一个屏幕友好的低分辨率图像版本,又通过基于云的模型单独创建一个更高分辨率的版本。用户可以在PC上快速编辑低分辨率的版本,但最终保存的是基于云的版本。
在监管严格的医疗行业等业务环境中,之前也有一些公司做过类似的事情,比如通过多个模型生成与医疗程序有关的定制化邮件。在这种情况下,个人身份信息等私人信息在PC上的本地模型中处理,而邮件中更通用的格式信件部分则通过基于云的大型LLM生成,最终再把这两部分元素合并到生成的电子邮件中。以上这些应用场景表明未来生成式AI的运行将更加顺畅。PC将在生成式AI领域发挥更重要的作用。
结束语
生成式AI落地于终端装置,具备充足生产力、任务处理能力与资料储存能力的AI PC 成为市场关注焦点。AI PC 硬件逐步到位、软件应用加速跟上,2024成为AI PC 元年。随着硬件的到位与软件应用的支持扩充,2027年AI PC 渗透率将有望达近七成。生成式AI应用的多样性,为AI PC 生态系带来更加协作与混合的时代。GenAI以及其他广泛的AI开启了一个可以通过计算设备实现的全新发展前景。人们很快就会发现端侧AI将会是必然,其体验甚至会优于目前基于云的体验。PC将在未来发展中发挥极其重要的作用。从芯片架构振奋人心的进步到基于PC的软件应用和工具方面的重要发展,PC正在以一种全新且让人倍受鼓舞的方式焕发新生。