ARM与大模型,狭路相逢

news2024/9/25 7:14:13

a2a0c5a4e402f1dd3c8323874d78eefd.gif

编辑:阿冒

设计:沐由

从去年底至今,伴随着OpenAI旗下ChatGPT的火爆,一波AI大模型推动着AI应用全面进入了大模型时代。与此同时,随着边缘算力的提升,AI大模型的部署也逐渐从云端涉入到边缘。

世界对AI算力的需求无穷无尽。面临摩尔定律失效软件计算法效率低下生态环境制约等问题,就尤其需要通过架构创新、先进封装等方式突破限制,从而提供更高效的方案。

作为天生具备高效能的创新计算架构,ARM处理器愈发引起产业内外的广泛关注。产业界由衷期待,在这个百花齐放的大模型时代,ARM处理器能够带来更多的精彩。

30764a4bf84e18c0fb0ce7d354d1fa46.jpeg

计算世界的生力军

c70f9c3d540d1b2300fb14e94e6b6cbb.png

突如其来的AI大模型时代,带来的是行业智能化的深度融合与快速突进,我们甚至肉眼可见一些细微而深刻的“智变”正在发生,在我们的办公室、家里、城市中……

与通用计算一样,人工智能的三大核心要素,也是算力、算法和数据。某种程度上,三大要素在大模型中的“功效”,甚至远远超出了通常计算环境下的作用:

大模型动辄百亿乃至千亿级的参数,其计算训练输出的结果就尤其需要强大的算力支撑;在算力的支撑之下,算法对于提高大模型性能、优化训练和推理过程,以及实现自动训练等关系重大;数据则是人工智能的基石,是大模型广泛应用和实现价值的必要前提。

由此,大模型热潮为计算产业,乃至千行百业的创新发展开启了超级风口。借助这波计算爆发的机会,ARM也在向着计算市场全面延展,对PC处理器、云端服务器发起冲击。

8985e4a937d25e57de019ff6854f0a77.jpeg

以前,人们通常认为ARM仅适用于一些简单的终端,难以满足繁重的计算任务。不过随着ARM架构的不断演进,以及伙伴们的持续努力,ARM处理器也开始在数据中心扮演更为重要的角色。

比如我们熟知的华为鲲鹏CPU飞腾CPU等,均采用了先进的ARM架构,它们在当前诸多领先的云数据中心里,已经得到了非常广泛的应用,满足人工智能、大数据等各种严苛业务的算力需求。

众人拾柴火焰高。不像那些专属于单一厂商的计算架构,ARM处理器在智能时代真正释放了多元化计算的价值,为众多厂商提供了集思广益、共同进步的舞台。

华鲲振宇为例,作为华为与中国华录集团在人工智能领域进行深度合作的结晶,这套为AI计算提供的全面解决方案,实现了从开发到部署以及数据存储全流程的国产化软硬件一体化的AI应用,极大地弥合了算力硬件与AI应用之间的差距。

面对千行百业如大海般磅礴的智能化需求,凭藉着指数级增长的AI能力和生态厂商的协力同心,ARM必将扮演越来越重要的角色,发挥前所未有的巨大作用。

AI落地的“最后一公里”

32be57a41bac46a3ab35d5b51f0ed21a.png

正如前文所言,愈发强大的ARM芯片不仅能够在数据中心,更可以在广泛的边缘侧,带来现场级、实时、短周期的智能分析和快速决策,这也是智能化真正落地的关键。

如果仅依赖云端服务器和数据中心,工作负载不仅会导致处理效率低下,也无法适应多元化的终端处理需求。因此,侧重局部和小规模处理的边缘计算,在智能化时代变得愈发重要。

通过将AI算法和模型部署到边缘设备上,边缘智能在本地实时进行数据处理和决策,减少对云端的依赖,实现智能感知、智能分析和智能决策,这也是AI落地“最后一公里”的关键。

在边缘侧,ARM处理器具有得天独厚的优势,能够为边缘智能提供强大的AI加持。很多基于ARM处理器的主流手机,已经能够有效处理复杂的AI推理应用任务,例如语音识别、AI影像等。

3dd0f1e7aadd08c663430178d21f5c5d.jpeg

目前,在智慧城市、智能制造、智慧交通等领域,由于能够有效降低延迟、高效利用资源、保护数据隐私,边缘智能已经发挥着不可或缺的作用,并不断向新的应用领域延伸。

智能必须无所不及!从云到边再到端,缺失了其中的任何一环,人工智能的“灵魂”都不会是完整的。毫不夸张地说,边缘侧ARM芯片的支持,关系到千行百业的智能化成败

目前,全球约有90%的AI都运行在基于Arm架构的CPU上,这些持续投入使Arm成为全球最普遍的AI计算平台之一,也吸引了越来越多的开发者加入进来,这也意味着前所未有的 AI 规模潜力将得以释放。

在建立了广泛和庞大的合作伙伴体系之外,ARM还投入了大量的工程资源与时间用以支持开源项目,为全球软件开发者提供更多的获取资源和更高的性能,持续积极为开源社区提供理想的开发者环境,助力实现AI的无处不在。

尤其值得称道的是,ARM完全吻合世界主流的“绿色计算”大趋势。绿色计算是经济社会实现可持续发展的重要保障,在当前的时间节点下,以低功耗、高性能著称的ARM处理器无疑拥有愈发广阔的施展空间。

共赴数字时代的计算之约

914beda9e019151742dbebf01f31f75b.png

我们正在迎来最好的时代,ARM也是一样。与大模型的“狭路相逢”,必将在ARM和计算产业的发展历程,乃至智能世界的演进中,添上浓浓的一笔。

当然,处理器只是计算生态的组成部分之一,整个计算产业链涵盖了PC、服务器、存储、操作系统、中间件、虚拟化、数据库、云服务等,还包括行业应用、咨询管理服务等流程。

0f155ef01dd04479456cd00d2b0bbb69.jpeg

全栈的IT基础设施、丰富的行业应用,以及完整的服务生态,不止是ARM芯片异于其他产品体系的特质,同样也是绿色计算产业联盟(GCC)、边缘计算产业联盟(ECC)等机构致力和追求的目标。

早在2019年,两大产业联盟就签署了合作协议,共同推动相关规范的制定、测试验证和落地推广,还组成了相应的工作组,发布了基于绿色计算的边缘数据中心硬件技术规范……一系列的工作极其有效和有力地推动了边缘计算和绿色计算的有序发展,可谓成果显著。

2023年12月13-14日,绿色计算产业联盟、边缘计算产业联盟在北京联合举办“2023计算产业生态大会(CIEC 2023)”,夯力打造一场涵盖绿色计算、边缘计算等计算领域全产业链的高端性、权威性、前瞻性的产业生态盛会。

作为年底计算领域的最重头会议,本次大会将聚焦与探讨前沿技术、发展趋势、创新应用、发展成果,擘画中国计算产业的未来蓝图,以数智力量赋能千行百业,推动数字经济的高质量发展。

届时,将会有超过1000位来自全球的商业领袖、国际组织代表、行业顶级专家、生态伙伴、行业分析师和媒体出席本次盛会,共同探讨计算领域的最新前沿技术和发展趋势,集中展示绿色计算和边缘计算领域的诸多应用与成果,为更多的商业创新点燃成功的“火花”。

超过18场高质量的Keynote,汇集了诸多两院院士和顶级专家;五大专业主题论坛,囊括了当前各种热门内容……2023计算产业生态大会致力于为建设数字中国提供有力支撑,与各方共同推动中国式现代化的进程

来吧!让我们共赴这场计算之约。

扫描图中二维码,即刻报名参会↓

65e01f8d10c4f85fb9c9470cb9460749.jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1284952.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

黑马一站制造数仓实战1

1. 项目目标 一站制造 企业中项目开发的落地:代码开发 代码开发:SQL【DSL SQL】 SparkCore SparkSQL 数仓的一些实际应用:分层体系、建模实现 2. 内容目标 项目业务介绍:背景、需求 项目技术架构:选型、架构 项目环境…

Selenium 自动化高级操作与解决疑难杂症,如无法连接、使用代理等

解决 Selenium 自动化中的常见疑难杂症 这里记录一些关于 Selenium的常用操作和疑难杂症。 有一些细节的知识点就不重复介绍了,因为之前的文章中都有! 如果对本文中的知识点有疑问的,可以先阅读我以前分享的文章! 知识点&…

1-4、调试汇编程序

语雀原文链接 文章目录 1、执行过程第一步:源程序第二步:编译连接第三步:执行 2、DOSBox运行程序第1步 进入EDIT.EXE第2步 编写源程序第3步 编译第4步 连接第5步 执行完整过程 3、DEBUG跟踪执行过程加载程序到内存执行程序debug和源程序数字…

【导航控制器总结-导航控制器栈 Objective-C语言】

一、导航控制器总结 1.我们接着上一堂课的内容继续 我们上节课说到哪里了,是不是就是对这个导航控制器的一个总结啊 然后,使用的注意事项 2.导航控制器使用注意事项: 1)第一点,使用导航控制器,你在创建的时候,需要给它指定一个根控制器 创建导航控制器的同时,指定…

【译】如何在调试时分析CPU和内存(Analyze CPU and Memory while Debugging)

您想了解如何使您的代码运行得更快,使用更少的内存,或者只是找出您的代码是否有CPU或内存问题?你当然会——你是一名开发人员!但是,内存和性能调优经常会遇到“重要但不紧急”的任务,因为真正紧急的事情,您似乎根本无…

优化 SQL 日志记录的方法

为什么 SQL 日志记录是必不可少的 SQL 日志记录在数据库安全和审计中起着至关重要的作用,它涉及跟踪在数据库上执行的所有 SQL 语句,从而实现审计、故障排除和取证分析。SQL 日志记录可以提供有关数据库如何访问和使用的宝贵见解,使其成为确…

Dockerfile脚本编写流程及示例

学习dockerfile指令 Dockerfile 指令 说明 FROM 指定基础镜像 MAINTAINER 声明镜像的维护者 LABEL 添加元数据标签 RUN 在容器中执行命令 CMD 容器启动后默认执行的命令 EXPOSE 暴露容器的端口 ENV 设置环境变量 ADD 将文件、目录或远程文件添加到容器中 COP…

[ 蓝桥杯Web真题 ]-外卖给好评

目录 介绍 准备 目标 效果 规定 思路 解答参考 介绍 外卖是现代生活中必备的一环。收到外卖后,各大平台软件常常会邀请用户在口味,配送速度等多个方面给与评分。在 element-ui 组件中,已经有相应的 Rate 组件,但是已有组件…

论文解读--PointPillars- Fast Encoders for Object Detection from Point Clouds

PointPillars--点云目标检测的快速编码器 摘要 点云中的物体检测是许多机器人应用(如自动驾驶)的重要方面。在本文中,我们考虑将点云编码为适合下游检测流程的格式的问题。最近的文献提出了两种编码器;固定编码器往往很快,但牺牲了准确性,而…

【latex笔记】双栏格式下插入单栏、双栏格式图片

双栏格式下插入单栏、双栏格式图片 1.缘起multicols2.双栏格式 插入单栏图片3.双栏格式 插入双栏图片 1.缘起multicols 插入双栏格式图片问题被困扰了有很长一段时间,查看网络资源也一直没找到解决方法,今天查看Latex官方文档,才发现因为mul…

spring cloud 整合Feign经行远程调用

文章目录 Feign远程调用Feign替代RestTemplate1)引入依赖2)添加注解3)编写Feign的客户端4)测试5)总结 自定义配置配置文件方式Java代码方式 Feign使用优化 Feign远程调用 先来看我们以前利用RestTemplate发起远程调用…

将rtsp视频流发送到AWS Kinesis Video Streams的方案——使用Gstreamer(C++) Command Line

大纲 1 创建Kinesis Video Streams1.1 创建视频流1.2 记录Creation Time 2 创建策略2.1 赋予权限2.2 限制资源2.3 Json格式描述(或上面手工设置)2.4 注意事项 3 创建IAM用户3.1 生成密钥对3.2 附加策略3.3 记录访问密钥对 4 编译C 创建者库5 发送6 检查参…

聊聊 Jetpack Compose 的 “状态订阅自动刷新” -- mutableStateListOf

Jekpack Compose “状态订阅&自动刷新” 系列: 【 聊聊 Jetpack Compose 的 “状态订阅&自动刷新” - - MutableState/mutableStateOf 】 【 聊聊 Jetpack Compose 的 “状态订阅&自动刷新” - - remember 和重组作用域 】 【 聊聊 Jetpack Compose 的 …

非标设计之气缸类型

空压机: 空压机又称空气压缩机,简单来说就是将机械能转化为压力能来进行工作的,空压机在电力行业应用比较多,除了在电力行业应用较多外,其实空压机还有一个比较常见的用途就是用来制冷和分离气体,输送气体…

java SSM毕业生信息管理myeclipse开发mysql数据库springMVC模式java编程计算机网页设计

前言 学校的规模不断扩大,学生数量急剧增加,有关学生的各种信息量也成倍增长。面对庞大的信息量需要有学生信息管理系统来提高学生管理工作的效率。通过这样的系统可以做到信息的规范管理、科学统计和快速查询、修改、增加、删除等,从而减少管…

【力扣热题100】207. 课程表 python 拓扑排序

【力扣热题100】207. 课程表 python 拓扑排序 写在最前面207. 课程表解决方案:判断是否可以完成所有课程的学习方法:拓扑排序实现步骤Python 实现性能分析结论 写在最前面 刷一道力扣热题100吧 难度中等 https://leetcode.cn/problems/course-schedule…

[leetcode ~二叉树] 模版

文章目录 1. 左叶子之和2. 翻转二叉树 E 1. 左叶子之和 :::details 给定二叉树的根节点 root ,返回所有左叶子之和。 示例 1: 输入: root [3,9,20,null,null,15,7] 输出: 24 解释: 在这个二叉树中,有两个左叶子,分别是 9 和 15&…

Proteus仿真--基于1602LCD与DS18B20设计的温度报警器

本文介绍基于1602LCD与DS18B20设计的温度报警器设计(完整仿真源文件及代码见文末链接) 仿真图如下 其中温度传感器选用DS18B20器件,主要用于获取温度数据并上传,温度显示1602LCD液晶显示器,报警模块选用蜂鸣器&#…

隐写术和人工智能

在一项新的研究中,人工智能对齐研究实验室 Redwood Research 揭示了大型语言模型 (LLM) 可以掌握“编码推理”,这是一种隐写术形式。 这种有趣的现象使得大型语言模型能够以人类读者无法理解的方式巧妙地将中间推理步骤嵌入到生成的文本中。 大型语言…

从零开始学习 JS APL(五):完整指南和实例解析

目录 学习目标: 学习内容: 学习时间: 学习内容: Window对象: 定时器-延时函数: JS 执行机制: location对象: 本地存储: 本地存储分类- localStorage&#xff1a…