华为昇腾助力大模型,算力国产化时代已来

news2024/10/6 10:39:30

去年世界人工智能大会(WAIC 2022)上,只有屈指可数的几家大厂推出大模型,但在科技部新一代人工智能发展研究中心5月底发布的《中国人工智能大模型地图研究报告》显示,我国10亿参数规模以上的大模型已发布79个,几乎进入“百模大战”。

而中国有一半左右的大模型创新,都是由昇腾AI来支持的,开发者数量从90万到180多万,原生孵化和适配30多个大模型,已发展1200多家ISV(独立软件开发商),联合推出2500多个行业AI解决方案。昇腾AI正是国内唯一一个完成千亿参数大模型训练并商用的系统。

此外,华为推出“昇腾伙伴网络”(简称APN)合作伙伴计划,将通过总经销商供货的销售支持、华为与总销售商双方的技术支持模式,思腾合力凭借多年在AI行业的积累和自身的实力成为首家签署APN合作协议的公司,共同打造基于昇腾的软硬件AI基础架构解决方案,推进人工智能国产算力替代的进步和发展。昇腾产品应用覆盖比较全面,产品型号也比较丰富,接下来我们就逐一介绍一下:

Atlas 300T pro

图片

T代表training,训练卡,pro是升级版,其性能特点是:

1. 高度集成:AI算力、通用算力、I/O能力三合一,处理器集成30个华为达芬奇AI Core +16个TaiShan核 + 1 * 100GE RoCE v2网卡。

2. 超强算力:提供业界领先的280 TFLOPS FP16算力。

3. 高速带宽:支持PCIe 4.0和 1*100G RoCE高速接口,出口总带宽56.5 Gb/s;无需外置网卡,训练数据和梯度同步效率提升10%~70%。

4. 32GB HBM内存支持ECC,专为训练设计,训练一个好的模型,需要使用大量数据,内存带宽要够大,内存容量要足够大,相比传统的DDR4内存,HBM内存的带宽可以提高10倍以上,功耗也更低。

 Atlas 300V pro

图片

V代表Video,视频解析卡,pro是升级版,其性能特点是:

1. 内置DVPP预处理单元,它是昇腾AI处理器内置的图像处理单元,提供强大的媒体处理硬加速能力,主要功能包括缩放、抠图、色域转换、图片编解码、视频编解码等。具有超大视频解析路数、高性能特征检索、安全启动等优势,支持128路高清视频实时分析。

2. 48G LPDDR4X 内存容量,LPDDR4X的特点是低功耗、高带宽、高频率,专为视频解析这种高带宽、多路数、视频解析流畅度高的应用场景而设计。

3. 强大的视频编解码能力可广泛应用于智慧城市、智慧交通、智慧园区、智慧金融、智慧制造等诸多AI行业场景。

 Atlas 300I Pro

图片

I代表 Inference, 推理卡,Pro升级款,基于昇腾310 芯片开发最高功耗72W,被动散热,半高半长单宽,达芬奇架构。性能特点:

1.拥有超强算力:单卡最大提供140 TOPS INT8算力,为数据中心推理提供更强大支持。

2. 超高能效:提供 2 TOPS/W 超高能效比,达到业界2.1倍。

3. 算力与显存平衡,搭载24G LPDDR4X内存,且支持ECC,保证推理的及时性。

4. 强大的AI 推理性能,可用于:内容审核、搜索推荐、票据识别、信息录入、资料对比、身份证实名认证、电子签名识别、语音识别等应用场景。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/893603.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Do You Like Interactive Problems?

Problem - 7386 题目大意&#xff1a;给出一整数n&#xff0c;有一个隐藏的在1~n范围内的数x&#xff0c;每次随机询问一个y&#xff0c;会得知x<y,x>y,或xy&#xff0c;当可能的x唯一确定时停止询问&#xff0c;问期望的询问次数是多少 1<n<1e9 思路&#xff1…

AMEYA360邀您参加EESA第二届中国国际储能展览会暨第十届国际大会

2023年8月30日-9月1日&#xff0c;由EESA储能领跑者联盟主办的第二届中国国际储能展览会将重磅亮相苏州国际博览中心。作为目前中国乃至整个亚洲区最聚焦的储能展览会&#xff0c;本次展览会的规模高达10万平方米&#xff0c;来自全国各地超过1000多家储能核心企业将共襄盛举&a…

揭秘!体育比赛是如何快人一步购票的

最近&#xff0c;各类体育赛事正如火如荼的进行中&#xff0c;作为资深体育迷&#xff0c;看着赛场上的英雄们正在为荣誉和胜利而拼搏&#xff0c;内心也跟着激情澎湃起来。 为了享受精彩纷呈的赛事&#xff0c;越来越多体育迷选择亲临现场&#xff0c;感受更真实的比赛氛围&a…

Java:ArrayList集合、LinkedList(链表)集合的底层原理及应用场景

ArrayList集合的底层原理及应用场景 LinkedList&#xff08;链表&#xff09;集合的底层原理及应用场景 单向链表 增加数据 删除数据 双向链表 LinkedList的应用场景之一:可以用来设计队列 入队 出队 LinkedList的应用场景之一:可以用来设计栈 压栈&#xff08;push),addFirst…

typeScript安装及TypeScript tsc 不是内部或外部命令,也不是可运行的程序或批处理文件解决办法

一、typeScript安装&#xff1a; 1、首先确定系统中已安装node, winr 输入cmd 打开命令行&#xff0c;得到版本号证明系统中已经安装node node -v //v18.17.0 2、使用npm 全局安装typeScript # 全局安装 TypeScript npm i -g typescript 二、检查是否安装成功ts #检查t…

pvt corner / rc corner

我正在「拾陆楼」和朋友们讨论有趣的话题&#xff0c;你⼀起来吧&#xff1f;拾陆楼知识星球入口 PVT wc&#xff1a;worst case slow&#xff0c;低电压&#xff0c;高温度&#xff0c;慢工艺 -> 一般情况下delay最大&#xff0c;setup 差。 wcl&#xff1a;worst case lo…

思维导图网页版哪个好用?6款高效的思维导图网页版工具盘点

思维导图是一种强大的可视化工具&#xff0c;可以帮助我们整理复杂的信息&#xff0c;提高工作和学习效率。使用在线思维导图工具可以让信息的梳理整合过程变得更加方便。下面&#xff0c;我们就来详细盘点一下6款非常好用而且容易上手的思维导图网页版工具&#xff01; …

去除UI切图边缘上多余的线条

最近接到UI切图&#xff0c;放进项目&#xff0c;显示边缘有多余线条&#xff0c;影响UI美观。开始以为切图没切好&#xff0c;实则不是。如图&#xff1a; ->解决&#xff1a; 将该图片资源WrapMode改为Clamp

SHP格式建筑数据转换为SketchUp模型插件分享

之前有给大家讲解过《如何使用3ds Max制作三维地形》&#xff0c;将GIS数据和传统的三维建模软件进行了结合&#xff0c;在很长一段时间内&#xff0c;一直有人问如何将水经微图中下载的建筑数据转换为SketchUp模型&#xff0c;这里给大家找到了一种解决方案&#xff0c;可以通…

算法|Day45 动态规划13

LeetCode 300.最长递增子序列 题目链接&#xff1a;力扣&#xff08;LeetCode&#xff09;官网 - 全球极客挚爱的技术成长平台 题目描述&#xff1a;给你一个整数数组 nums &#xff0c;找到其中最长严格递增子序列的长度。 子序列 是由数组派生而来的序列&#xff0c;删除&…

LeetCode[1288]删除被覆盖区间

难度&#xff1a;Medium 题目&#xff1a; 给你一个区间列表&#xff0c;请你删除列表中被其他区间所覆盖的区间。 只有当 c < a 且 b < d 时&#xff0c;我们才认为区间 [a,b) 被区间 [c,d) 覆盖。 在完成所有删除操作后&#xff0c;请你返回列表中剩余区间的数目。 示…

公众号静默授权

1.新建 utils文件夹及wxauth.js 2.封装 wxauth.js&#xff08;请求自己接口时要注意接口返回数据的结构&#xff09; import axios from axios; import url from ../ui/URL.js; //取Cookie的值 function GetCookie(name) {var arg name "";var alen arg.length;v…

七夕什么礼物最有意义?这些礼物送到ta心里去!

转眼间七夕节就到了&#xff0c;想必各位女/男同志都在纠结送什么礼物&#xff0c;一般来说&#xff0c;除了生活用品&#xff0c;对于一些数码产品是比较感兴趣的&#xff0c;所以买一个数码好物作为礼物&#xff0c;大概率是不会出错&#xff0c;接下来我来安利几款非常实用的…

这,就是大模型时代的生产力!

文心与飞桨&#xff0c;向我们展示了领先大模型的生产力。 大模型应用卷到了什么地步&#xff1f;几天前&#xff0c;我们看到的还是写文章、画图、回答数学问题&#xff0c;现在已经有人这么用了&#xff1a; 如果把一长段对话转发到别的群聊里&#xff0c;AI 可以自动生成总…

YOLO v5、v7、v8 模型优化

YOLO v5、v7、v8 模型优化 魔改YOLOyaml 文件解读模型选择在线做数据标注 YOLO算法改进YOLOv5yolo.pyyolov5.yaml更换骨干网络之 SwinTransformer更换骨干网络之 EfficientNet优化上采样方式&#xff1a;轻量化算子CARAFE 替换 传统&#xff08;最近邻 / 双线性 / 双立方 / 三线…

3.物联网LWIP之socket编程

一。Socket编程的基本概念 在我看来Socket就相当于API&#xff0c;就是函数接口&#xff0c;我们使用Socket就可以在不清楚底层原理的基础上进行通信&#xff0c;即Socket会帮助我们处理好网络的Ip地址等。下图就清晰的展示了Socket的位置&#xff0c;作为用户层与其他层的交互…

Arduino 入门学习笔记12 读写外置EEPROM

Arduino 入门学习笔记12 读写外置EEPROM 一、准备工作1. 外置 EEPROM 简介2. Arduino操作外置 EEPROM 流程 二、读写操作流程1. 写操作流程2. 读操作 三、示例代码 一、准备工作 1. 外置 EEPROM 简介 外置I2C接口的EEPROM是一种常用的非易失性存储器&#xff0c;通过I2C总线与…

opencv 进阶10-人脸识别原理说明及示例-cv2.CascadeClassifier.detectMultiScale()

人脸识别是指程序对输入的人脸图像进行判断&#xff0c;并识别出其对应的人的过程。人脸识别程 序像我们人类一样&#xff0c;“看到”一张人脸后就能够分辨出这个人是家人、朋友还是明星。 当然&#xff0c;要实现人脸识别&#xff0c;首先要判断当前图像内是否出现了人脸&…

分享一个可以录制限制录屏的方法

随着智能手机的普及&#xff0c;录屏已经成为了很多人记录生活的重要方式。然而&#xff0c;在使用录屏应用时&#xff0c;我们可能会遇到一些限制&#xff0c;例如无法录制某些应用程序的屏幕。下面将介绍一些方法&#xff0c;帮助你在这种情况下仍然能够轻松地录制屏幕。 使用…

3D数据转换工具HOOPS Exchange概览

HOOPS Exchange SDK是一组C软件库&#xff0c;使开发团队能够快速为其应用程序添加可靠的2D和3D CAD导入和导出功能。这允许访问广泛的数据&#xff0c;包括边界表示&#xff08;BREP&#xff09;、产品制造信息&#xff08;PMI&#xff09;、模型树、视图、持久ID、样式、构造…