AIGC繁花,绽放在精耕的算力土壤之上

news2024/12/23 17:54:39

48cc28728f2ebc9b800e0a49f40969ba.jpeg

2023年的春天,称得上一句AI之春。大模型成为技术力量新的爆发点,生成式AI(AIGC)应用风起云涌。

产业界争先恐后训大模型之际,广大用户最大的困惑是——发布了,但就是玩不到啊!

OpenAI有地域限制且不去说它,各种国产大模型也很少有大大方方让大家随便用的,排队等邀请码、群里求测试账号、不开放API、只定向邀请企业客户、上线没几天停止访问……

过去几个月,想用AIGC的人,没少受这些折磨。

当然,这种局面也不能怪大模型的开发运营团队,实在是“心有余而力不足”——AI算力太紧缺了。

66b7f71bfb2247cb4e928cca319ea04f.png

想开发大模型的高校和研究机构,抢不到、买不起GPU卡;已经发布的大模型,用户暴涨,导致算力需求的指数级增长和巨大的成本压力,撑不住访问。

就像保尔·芒图在《十八世纪产业革命》中说的那样:“经济演变是比较混乱的,好像撒在大地上的种子那样慢慢生长。无数模糊不明的事实,在细节上几乎是微不足道的,但彼此无限地相互改变着”。

新型AI算力基础设施,就是那个至关重要的细节,直接影响到这次智能产业革命的进程。

在诸多解决方案中,新华三的破题思路,别具特色,一言以蔽之——精耕务实。

首先让我们先从算力本身出发,去看看大模型时代的AI奋锄者,究竟需要什么?又能得到什么?

晨兴理荒秽

算力土壤,为何贫瘠?

888fba046c08832baf9195612ba903ab.png

AIGC的价值潜力已经十分明晰,让大模型成了各大科技企业争相抢夺的那颗“好苗子”。

陶渊明描写古人耕种要“晨兴理荒秽,带月荷锄归”,先摘除阻碍作物生长的杂草,才能保障后续的收成。

所以,首先要搞清楚一个问题,为什么AI算力显得如此贫瘠?

第一,供给不足。受摩尔定律达到天花板的影响,计算硬件的性能提升越来越有限,AI算力短缺问题长期存在,大模型又进一步加剧了算力焦渴。以176B参数规模的大模型为例,FP16精度下,训练过程内存峰值会达到2800G+,需要35张以上80G显存的GPU才能容纳。很多国内高校,有AI人才、技术积累,想要探索大模型,却买不到、买不起GPU卡,止步于昂贵的AI算力门槛,是非常可惜的。

第二,需求溢出。大模型和生成式AI(AIGC)的出现,微软、谷歌、百度等科技巨头,都在用AI重新构想所有的核心产品。技术的快速溢出,算力基础设施没有来得及跟上,造成了AI算力供需的不匹配。随着AIGC扩展到每个领域,越来越多的智力劳动逐步被AI化、自动化,算力供需的“剪刀差”,还会继续拉大。

第三,效率低下。企业/科研机构对模型开发和AI全域应用的不了解、不高效,会直接导致准备不充足,比如训练数据质量低、AI应用开发经验不足、资源损耗大;研发周期长,比如大模型研发慢、推理效果差,不得不反复迭代试错,也就消耗了更多的时间成本、算力成本。

1408e73328ed1d9a361eef151e066988.png

第四,安全隐患。数据是模型核心的原材料,企业私域数据更是企业的核心资产。企业的大模型如果使用不当,会存在企业私域数据泄露的风险,造成企业即便拥有大量算力也不敢放心使用。

第五,可持续顾虑。“焚薮而田,岂不获得,而明年无兽”,这个道理同样适用于大模型时代。大模型的数据处理量巨大,带动数据中心耗电量快速增加。GPT-3大模型每次训练,碳排放量高达552吨。中国大模型和AIGC的发展,必须建立在绿色节能的算力基础设施上,“东数西算”工程就为各地新建数据中心PUE,提出了严格的要求。

面对AI算力贫瘠的局面,干着急是没有用的,唯有靠劳作者挥锄挖地,为行业理清荒秽,释放算力这一新生产力。

迎着大模型和AIGC的晨光,新华三已经开始培育AI的土壤。

b5fea136d23bf2d77e403996c8ce6c83.png

精耕细作

新华三蕴育全栈AI

“算力不足,那就增加供给,堆GPU卡,上服务器,建数据中心集群”——这是常规思路。

新华三的AI蕴育之路没这么简单,在刚刚落幕的2023 NAVIGATE 领航者峰会上,新华三正式发布了“百业灵犀LinSeer”私域大模型和支持AIGC大算力调度的“傲飞算力平台”,可与业务深度结合提升工作效率,持续优化算法和积累公域数据,为客户提供最新知识能力。同时推出了“AIGC开放战略”,既支持“百业灵犀+新华三ICT基础架构”的模式保障数据安全,实现最优配合,同时也支持“客户自选大模型+新华三ICT基础架构”的模式满足多种需求。

9c411800d739645f99ecce6cdb9e7447.jpeg

新华三如此用心耕耘,这么多的复合能力,究竟能为这一波AI浪潮带来什么?

第一步,培土,让大模型“用有其算”。

解决算力瓶颈,提供充足、普惠且安全的AI算力,支持高校、科研机构和广大企业的充分探索,大模型和AIGC才有茁壮生长的可能性,靠的就是新华三智算解决方案的“算力基础设施”,有三个显著特点:

充足。新华三对基础设施进行优化,让硬件发挥出极致性能。打造了超高性能AI服务器,强势推出H3C UniServer R5500 G6,可以提供8卡H800 OAM训练能力,内部互联400Gb/s极速网络,支撑大模型的高效训练。CX8000高性能分布式并行文件存储,专为AI训练研发,单节点IOPS可达20万+,可以满足AI超大规模数据对存力的需求。Seerfabric软硬一体方案,通过跟AI深度融合,实现流量零丢包,发挥RoCE网络最大性能,大模型训练时间缩短10%,配合主动安全全面防护,为上层平台和应用提供安全、高效的算力支撑。

普惠。模型开发部署的过程中,通过傲飞算力平台共享AI算力,降低算力空闲时间,可以将算力利用率提高至70%以上,智算中心成本大幅下降,提供普惠AI算力。

安全。避免大模型服务使用时造成的数据外泄是企业放心使用大模型的重要前提。新华三智算解决方案通过4大安全体系:传输安全+数据安全+访问安全+安全审计,保障用户使用私域大模型的同时,全方位保障私域数据安全,避免企业私域数据出域。

绿色。新华三的零碳数据中心,将各绿色单元组合起来,降低高算力带来的碳排放问题;新一代液冷解决方案,可以将数据中心的PUE降到1.1及以下,满足国家对数据中心的低碳要求,带来绿色算力。

b7efb29e7ca084eef63dac140da02866.png

第二步,护苗,让大模型“算有其法”。

从来没有下过地的新手,很容易就糟蹋了种苗,浪费了土地,更重要的是,错过了农时。

大模型作为新技术,很多参与者都是刚开始接触,要抓住宝贵的产业机会,必须有章法。新华三不仅提供“土壤”,还精心“护苗”,为大模型的成长、应用,带来了全链路的平台和服务。

平台层面,统一的数据平台“绿洲”,可有效进行数据全生命周期管理;支持AIGC的大算力调度平台“傲飞”,提供包含智能标注、智能训练、智能调优、智能部署、智能推理的全流程算力智能调度,支持8000节点的算力调度,并发训练时间缩短至50%,断点自动接续无感知训练更稳定,全方面提升大模型训练性能。

服务层面,针对大模型预训练/微调、强化学习、提示学习等特点,新华三根据自身大模型实践经验,封装了推理、微调、训练这三种大模型服务能力,降低大模型使用门槛。

比如基座大模型推理,对推理架构/执行/过程进行优化,并提供配套基础设施,可以为科研工作者构建AI科研环境,满足数据挖掘分析、模式识别等需求。新华三的“传输安全+数据安全+访问安全+安全审计”4大安全体系,可以在私域大模型的训练推理过程中,保障企业数据资产的安全不外流。

私域大模型微调,新华三的10+种基座大模型,结合微调优化,可以助力企业快速打造垂直领域私域大模型,实现小时级生成。

自主大模型训练,提供100多个评估维度与评估指标,如BLEU、ROUGE、METEOR等,有效缩短模型的研发周期。

接下来,孕蕾,让大模型“算有所值”。

大模型和AIGC要通过产业落地,来完成技术的价值转换。要结出更多的应用果实,前提是与百行百业开始连接、探索落地业务场景、孕育应用的花蕾。

这个“传花授粉”的过程,仅靠单一的产业角色是无法完成的。新华三构建了一个开放的产业生态,吸引合作伙伴参与到大模型建设中,共同蕴育全栈AI的无限潜力。

全栈AI的生态繁荣,才有大模型的硕果累累,技术红利的价值落地。

可以看到,正是新华三的精耕细作、用心栽培,大大降低了大模型和AIGC的发育难度。

借助新华三的智算解决方案,越来越多的研究者/企业,可以从算力焦灼中解放出来,抓住宝贵的增长窗口期,培育属于自己的大模型。

由此,可以引出下一个话题:与时代同步,培育大模型“土壤”,为什么是新华三?

实地立身

新华三的根深,大模型的叶茂

eeca033dcf235a702680f7e90408109f.png

大模型和新型智能基础设施,是第四次产业革命的关键,也是数字经济的大势所趋,坦率地说,这个产业趋势是显而易见的。

但是,看到趋势,并不一定能抓住趋势。

大模型和AIGC等新技术的发展与应用,相当于在一片晨雾和产业荒原中摸索。算力基础设施服务商,不可能“以其昏昏,使人昭昭”,自己都没搞懂大模型和AIGC,自然没法赋能研究者和高科技企业。

能构建一套清晰可行的智算解决方案,新华三的优势就是“脚踏实地”。

首先,新华三的技术根深,可以构筑新价值。

深耕ICT领域,承担AI领域科研课题的新华三,技术能力与产品积累非常深厚,布局广泛,能够为全栈AI技术、软硬件和服务,提供持续创新的动能。

此外,新华三的创新务实,可以解决真问题。

大模型时代的技术变化和产业应用日新月异,各行业的落地条件和能力禀赋也有所不同,这就要求基础设施服务商对变化有深刻且快速的洞察,才能确保每个行业/产学研各类用户的需求都得到满足。

作为数字化解决方案领导者,新华三有丰富的服务实体产业经验,可以及时洞察产业客户的需求,进行技术和产品的更新迭代,让每一个创新都能切实解决用户在意的真问题。

智算解决方案中,普惠算力,高效易用的平台,软硬拉通的服务等,都来自产业用户在业务场景中成本敏感、效率优化等实际痛点。

9fa15fd2b8b92eab45f5dbb4fb051cd2.png

回头对比一下几年前的生活,会发现AI技术已经在切实影响、改变我们的社会经济。大模型的到来,让智能变革继续加速,最终每个人、每个行业乃至每一个国家,都会是人工智能的参与者和受益人。

产业智能革命的土壤,从未像今天一样肥沃。在新华三的基础设施底座上,大模型这颗种子,正在茁壮生长。接下来,就看百行百业如何释放大模型的无限想象,将AIGC的硕果垂满中华。

e7122b30ff1465ace954e563969de3da.gif

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/645302.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

618有哪些数码好物值得入手?盘点几款618值得买的数码好物分享

距离618大促结束还有几天,还有谁没有入手几款数码好物的!眼下618还没有彻底结束,现在上车还来得及。下面来给大家盘点几款数码好物,话不多说,一起来看看吧。 1.南卡OE不入耳蓝牙耳机 南卡OE不入耳蓝牙耳机采用了不入耳…

WDM波分复用技术:TFF(薄膜滤波) AWG(阵列波导光栅)介绍

WDM (Wavelength Division Multiplexing)技术是通过在光纤中传输多个不同波长的光信号来扩大光纤传输带宽并提高网络传输能力的一种技术,而TFF(薄膜滤波)和AWG(阵列波导光栅)则是两种常用的WDM技术。 TFF技术 TFF &a…

【统计模型】缺失数据处理方法

目录 一、缺失数据定义 二、缺失数据原因 三、缺失数据处理步骤 四、数据缺失机制 1.完全随机缺失(MCAR) 2.随机缺失(MAR) 3.非随机、不可忽略缺失(NMAR) 五、缺失数据处理方法 1.直接删除 2.缺失值…

耳朵小戴什么耳机合适,耳朵小佩戴都舒适的几款骨传导耳机分享

​骨传导耳机是通过骨骼震动来传递声音,不用经过外耳道和鼓膜,因此不会损伤听力,同时佩戴也更加舒适,不会影响对周围环境的感知。并且骨传导耳机的核心技术在于骨传导,它通过耳机后挂部分将声音直接传递到耳道&#xf…

skywalking-agent-java默认不支持spring cloud gateway问题

解决skywalking-agent-java不支持spring cloud gateway问题 开发环境:Windows10 、JDK17 下载解压Java Agent skywalking官网下载地址:https://skywalking.apache.org/downloads/ 解压目录为:D:\Programs\soft-Plugins\apache-skywalking…

CSS查缺补漏之常用文本属性、列表属性、表格属性、鼠标属性

文本属性 letter-spacing&#xff1a; 表示字母或汉字间距&#xff1b; word-spacing&#xff1a;表示单词之间或汉字之间空格的间距 <div>Loremip sumdolors itametconsecteturadipisicingelit.Voluptas.</div> <div>这是一首简单的小情歌 唱着我们心肠的曲…

探索小程序开发:2023年的全面指南

小程序是一种无需下载的应用程序&#xff0c;它可以在您的手机上打开&#xff0c;而无需在计算机上打开。小程序通过其快速&#xff0c;低成本&#xff0c;功能强大且易于使用的优势而成为更广泛的互联网趋势。 那么&#xff0c;您为什么探索小程序开发&#xff1f;开发过程可…

Unity Class深拷贝问题分析

Unity Class深拷贝问题分析 前言常用解决方案1.手动复制字段2.使用序列化工具3.使用Instantiate方法(只能用于MonoBehaviour)4.重写运算符赋值5.使用Visual Scripting中提供的拷贝函数&#xff08;推荐&#xff09; 前言 在Unity项目中&#xff0c;我们面临一个读取数据表并深…

3--Gradle入门 - 创建普通的Java工程

3--Gradle入门 - 创建普通的Java工程 前言 前面我们以及尝试过使用 Gradle 创建项目&#xff0c;下面我们使用 Idea 来创建普通的Java工程 创建普通的Java工程 1. 创建 Gradle 管理依赖的项目 语言设置 Java 依赖设置 Gradle DSL 使用 Groovy 2. 设置项目使用本地的 gradle …

B树和B+树索引

B树索引 磁盘IO读数据到内存 malloc/new 向 kernel申请4B空间&#xff0c;实际系统可能给2个页面空间即8KB&#xff0c;剩下8KB-4B空间由 lib.so 或libc.so 的 ptmalloc 或tcmalloc管理 。这样就不需要每次去kernel申请内存 磁盘IO同理&#xff0c;我们读一部分数据会把一整…

2023年6月DAMA-CDGP数据治理专家认证,这家口碑好

DAMA认证为数据管理专业人士提供职业目标晋升规划&#xff0c;彰显了职业发展里程碑及发展阶梯定义&#xff0c;帮助数据管理从业人士获得企业数字化转型战略下的必备职业能力&#xff0c;促进开展工作实践应用及实际问题解决&#xff0c;形成企业所需的新数字经济下的核心职业…

研一,有点迷茫。

作者&#xff1a;阿秀 校招八股文学习网站&#xff1a;https://interviewguide.cn 这是阿秀的第「277」篇原创 小伙伴们大家好&#xff0c;我是阿秀。 最近回答了不少大一大二研一在读的学习圈中学弟学妹的咨询问题&#xff0c;基本都是计算机学习、进度、疑惑等等相关的问题&a…

chatgpt赋能python:Python怎么批量注释

Python怎么批量注释 Python是一种高级编程语言&#xff0c;广泛应用于数据科学、人工智能、Web开发等领域。在编写Python代码时&#xff0c;注释是非常重要的一部分。注释可以帮助程序员更好地理解代码&#xff0c;便于代码的维护和修改。但有时候&#xff0c;我们需要批量注释…

华为OD机试真题 JavaScript 实现【火星文计算】【2022Q2 100分】,附详细解题思路

一、题目描述 已知火星人使用的运算符为#、$&#xff0c;其与地球人的等价公式如下&#xff1a; x#y 2*x3*y4 x$y 3*xy2 其中x、y是无符号整数&#xff1b;地球人公式按C语言规则计算&#xff1b;火星人公式中&#xff0c;$的优先级高于#&#xff0c;相同的运算符&#x…

YOLOv5/7 更换 DIoU-NMS

文章目录 NMS原理介绍DIoU-NMS效果展示NMS 耗时对比YOLOv5 更换方式YOLOv7 更换方式NMS原理介绍 在执行目标检测任务时,算法可能对同一目标有多次检测。NMS 是一种让你确保算法只对每个对象得到一个检测框的方法。 在正式使用NMS之前,通常会有一个候选框预清理的工作(简单引…

二、微机保护的结构框图原理

在实际应用中&#xff0c;微机保护装置分为单CPU和多CPU的结构方式。在中、低压变电所中多数简单的保护装置采用单CPU结构&#xff0c;而在高压及超高压变电所中复杂保护装置广泛采用多CPU的结构方式。 &#xff08;一&#xff09;单 CPU的结构原理 单CPU的微机保护装置是指整套…

5.3.1 因特网的路由协议(一)

5.3.1 因特网的路由协议&#xff08;一&#xff09; 我们知道因特网在现实生活中的应用非常广泛&#xff0c;我们可以进行网络聊天、查询资料&#xff0c;购物等&#xff0c;他给我们的现实生活带来了极大地方便&#xff0c;我们已经知道互联网是由一个个经过路由器连接的网络…

Java设计模式(八)— 单例模式3

系列文章目录 单例模式之静态内部类 单例模式之枚举方式 单例模式之JDK源码分析 文章目录 系列文章目录前言一、单例—静态内部类1.静态内部类案例2.静态内部类优缺点 二、单例—枚举方式1.枚举方式案例2.枚举方式优缺点 三、单例—JDK源码分析1.JDK源码分析 四、单例模式注意…

Java同步容器和并发容器

同步容器 在 Java 中&#xff0c;同步容器主要包括 2 类&#xff1a; Vector、Stack、HashTable Vector 实现了 List 接口&#xff0c;Vector 实际上就是一个数组&#xff0c;和 ArrayList 类似&#xff0c;但是 Vector 中的方法都是 synchronized 方法&#xff0c;即进行了同…

大型企业的知识库是什么结构的?真的有用吗?

大型企业的知识库是指建立在企业内部的一个包含各种知识和信息的系统&#xff0c;它可以帮助企业更好地管理和利用企业内部的知识资源&#xff0c;提高企业的创新能力和竞争力。 知识库的结构和内容包括以下几个方面 一、知识分类和标签化 在建立知识库之前&#xff0c;企业…