DPU加速AI应用“遍地开花”,中科驭数亮相2023全球AI芯片峰会

news2024/9/23 23:33:52

9月15日,2023全球AI芯片峰会(GACS 2023)在深圳举行,聚集了全球AI芯片产业的领军者和中坚力量,共探AI芯片的求新、求变、求索之径。中科驭数高级副总裁张宇应邀在智算中心算力与网络高峰论坛发表题为《基于DPU的高效AI大模型算力底座》的重要演讲。

e3c11f8de9ffe235de8cf82bc893ce9b.jpeg

▲ 中科驭数高级副总裁张宇受邀发表重要演讲

随着人工智能从高端科研领域向人们日常工作生活推进,传统数据中心都在向智算中心演进。DPU提供智算中心所必须的大带宽和低时延能力,使更多的CPU/GPU算力真正服务于业务,从而为新型的智算中心提供了更高效的算力底座,成为智算中心必备的核心组件。

张宇在演讲中介绍,在处理大规模数据和复杂任务时,传统算力集群往往面临性能限制,受到单节点算力瓶颈和集群效率瓶颈的双重挑战。中科驭数基于DPU的AI算力底座,充分利用了DPU异构计算加速能力,并结合自研DOE的算子卸载技术,以及基于RDMA实现数据处理集群的算网融合加速,有效破解了分布式环境下数据处理集群难题,DPU算子性能提升15倍,数据集群整体性能提升2-5倍,计算性能显著提升,实现降本增效。

40553209e1d83ecc89924fac72c0c3b0.jpeg

中科驭数的DPU技术创新给算力基础设施层革新带来重大突破,在AI产业链中扮演着关键角色,拥有广阔的应用前景。就在昨天北京经信局最新发布的《AIGC产业链北京市专精特新企业图谱》中,中科驭数作为算力层代表性企业之一成功入选。北京市经济和信息化局中小企业处处长杨靖国指出,这些专精特新企业致力于突破算力芯片、中文数据集、深度学习框架等领域的卡点和堵点,为AIGC产业链强链、补链、固链贡献力量,推动中国AIGC行业高质量发展。

未来,中科驭数也将继续致力于推动DPU软硬件技术的创新,期待在未来能够携手产业链上下游合作伙伴,实现更多突破性的技术应用,为AI应用的遍地开花做出贡献,共同推动AI领域的持续性发展。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1019853.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

《2023年中国数字孪生行业报告》丨附下载_三叠云

✦ ✦✦ ✦✦ ✦✦ ✦ 随着近年来人工智能、物联网、虚拟现实等技术的持续发展以及元宇宙概念的兴起,数字孪生概念进一步完善,适用范围不断拓宽。然而非业界人士对数字孪生概念仍缺乏统一认知。对此,本报告介绍数字孪生概念、行业情况、市场…

java开发之个微机器人的开发

简要描述: 根据消息回调收到的xml转发文件消息,适用于同内容大批量发送 请求URL: http://域名地址/sendRecvFile 请求方式: POST 请求头Headers: Content-Type:application/jsonAuthorization&#…

uniapp 使用subNVue原生子窗体显示弹框或悬浮框

效果展示 在uniapp中,我们可以使用subNVue原生子窗体来解决web-view等原生页面中弹框无法显示的问题。 subNVue原生子窗体是uniapp提供的一种原生组件,可以在uniapp中嵌入原生页面,并且可以与uniapp页面进行通信。我们可以在原生页面中使用…

web浏览器公网远程访问jupyter notebook【内网穿透】

文章目录 前言1. Python环境安装2. Jupyter 安装3. 启动Jupyter Notebook4. 远程访问4.1 安装配置cpolar内网穿透4.2 创建隧道映射本地端口 5. 固定公网地址 前言 Jupyter Notebook,它是一个交互式的数据科学和计算环境,支持多种编程语言,如…

leetcode 102.二叉树的层序遍历

⭐️ 二叉树的层序遍历I 题目描述 🌟 leetcode链接:二叉树的层序遍历I 思路: 使用一个辅助队列来层序遍历二叉树,不同的是需要使用一个二维数组来存放每个节点,而每一层的所有节点又需要是一个一维数组。 而最重要的问…

DNS解析流程

DNS 层次结构如下: 根 DNS 服务器 :返回顶级域 DNS 服务器的 IP 地址顶级域 DNS 服务器:返回权威 DNS 服务器的 IP 地址权威 DNS 服务器 :返回相应主机的 IP 地址 为了提高 DNS 的解析性能,很多网络都会就近部署 DNS …

如何在idea中新建第一个java小程序

如何在idea中新建第一个java小程序 1.打开软件2.新建项目3.找到安装的jdk文件路径4.继续下一步5.创建项目名称并配置项目路径6.点击完成即可。7.在项目文件的src文件夹下创建java类,程序等7.1其他java项目或文件不能运行的原因: 8.新建类并运行程序9.输入…

构建本地Web小游戏网站:Ubuntu下的快速部署与公网用户远程访问

文章目录 前言1. 本地环境服务搭建2. 局域网测试访问3. 内网穿透3.1 ubuntu本地安装cpolar内网穿透3.2 创建隧道3.3 测试公网访问 4. 配置固定二级子域名4.1 保留一个二级子域名4.2 配置二级子域名4.3 测试访问公网固定二级子域名 前言 网:我们通常说的是互联网&am…

数据库 MVCC 详解

目录 1. 什么是 MVCC? 2. MVCC 的好处? 3. 快照读?当前读分别是什么?怎么理解? 3.1 快照读 3.2 当前读 4. 数据库的四种隔离级别 5. MVCC 实现原理 5.1 隐藏字段 5.2 undo log(版本链) 5.3 readView 6. re…

1218. 最长定差子序列

1218. 最长定差子序列 原题链接:完成情况:解题思路:参考代码: 原题链接: 1218. 最长定差子序列 https://leetcode.cn/problems/longest-arithmetic-subsequence-of-given-difference/description/ 完成情况&#x…

低代码平台的坑有哪些?

大部分人/企业在选型的时候只会过分关注低代码平台所提供的功能,却忘记了“服务”同样重要。事实上,低代码的功能各家大差不差,基本都差不多。早前,我曾写过【低代码选型的注意事项】一文,今日不妨再说一嘴。 在研究低…

如何完美通过token获取用户信息(springboot)

1. 什么是Token? 身份验证令牌(Authentication Token):在身份验证过程中,“token” 可以表示一个包含用户身份信息的令牌。 例如 Token(JWT)是一种常见的身份验证令牌,它包含用户的…

APP广告竞价机制:头部竞价与瀑布流

广告引擎竞价原理实际上就是平台如何从利用用户和广告主在平台的产生的活跃度时长,从两者本身产生价值中,赚取利润的原理。即平台在给广告主分发流量的过程中,引入付费广告概念,加速广告内容的曝光。 头部竞价与瀑布流 在瀑布流…

【ELK】日志分析系统概述及部署(ELFK部署实验)

目录 一、ELK概述 1、ELK是什么? 2、ELK的组成部分 2.1 ElasticSearch (1)分片和副本 (2)es和传统数据库的区别 2.2 Kiabana 2.3 Logstash (1)Log Stash主要组件 2.4 可添加的其它组件…

腾讯数据持久化方案MMKV原理分析

提到数据持久化存储的方案,Android提供的手段有很多,在项目中常用的就是SharedPreference(简称SP),但是SP使用虽然简单,但是存在缺陷: 写入速度慢,尤其在主线程频繁执行写入操作易导致卡顿或者ANR&#xf…

Python 基于PyCharm断点调试

视频版教程 Python3零基础7天入门实战视频教程 PyCharm Debug(断点调试)可以帮助开发者在代码运行时进行实时的调试和错误排查,提高代码开发效率和代码质量。 准备一段代码 def add(num1, num2):return num1 num2if __name__ __main__:f…

剧情反转 抵制AI音乐的华纳签了位虚拟歌手

从文字、图片、视频到语音、音乐,AIGC已经渗入到人类的视听体验中,即便曾经因为版权问题极力抵制AI音乐的巨头,也不得不转变态度顺应时代产物。 今年9月,华纳音乐签约了首个虚拟歌手Noonoouri;8月,环球音乐…

Reids Cluster集群部署

服务器端口说明 vim /etc/hosts 1.下载、解压、编译Redis $ mkdir -p /opt/redis && cd /opt/redis $ wget http://download.redis.io/releases/redis-6.0.6.tar.gz $ tar xzf redis-6.0.6.tar.gz 请先检查gcc的版本是否低于5,如果是请先升级&#xff0c…

Java基础实战:Java中的引用类型(强软弱虚)

下面是一个在下面引用实战中用到的公共类 public class M {Overrideprotected void finalize() throws Throwable{System.out.println("finalize");} }finalize()方法是执行gc时调用的方法。 一、强引用 强引用是默认的引用类型。当一个对象具有强引用时&#xff…

深度学习-经典网络解析-VGG-[北邮鲁鹏]

这里写目录标题 VGG参考VGG网络贡献使用尺寸更小的 3 3 3 \times 3 33卷积串联来获得更大的感受野放弃使用 11 11 11 \times 11 1111和 5 5 5 \times 5 55这样的大尺寸卷积核深度更深、非线性更强,网络的参数也更少;去掉了AlexNet中的局部响应归一化层…