9月15日,2023全球AI芯片峰会(GACS 2023)在深圳举行,聚集了全球AI芯片产业的领军者和中坚力量,共探AI芯片的求新、求变、求索之径。中科驭数高级副总裁张宇应邀在智算中心算力与网络高峰论坛发表题为《基于DPU的高效AI大模型算力底座》的重要演讲。
▲ 中科驭数高级副总裁张宇受邀发表重要演讲
随着人工智能从高端科研领域向人们日常工作生活推进,传统数据中心都在向智算中心演进。DPU提供智算中心所必须的大带宽和低时延能力,使更多的CPU/GPU算力真正服务于业务,从而为新型的智算中心提供了更高效的算力底座,成为智算中心必备的核心组件。
张宇在演讲中介绍,在处理大规模数据和复杂任务时,传统算力集群往往面临性能限制,受到单节点算力瓶颈和集群效率瓶颈的双重挑战。中科驭数基于DPU的AI算力底座,充分利用了DPU异构计算加速能力,并结合自研DOE的算子卸载技术,以及基于RDMA实现数据处理集群的算网融合加速,有效破解了分布式环境下数据处理集群难题,DPU算子性能提升15倍,数据集群整体性能提升2-5倍,计算性能显著提升,实现降本增效。
中科驭数的DPU技术创新给算力基础设施层革新带来重大突破,在AI产业链中扮演着关键角色,拥有广阔的应用前景。就在昨天北京经信局最新发布的《AIGC产业链北京市专精特新企业图谱》中,中科驭数作为算力层代表性企业之一成功入选。北京市经济和信息化局中小企业处处长杨靖国指出,这些专精特新企业致力于突破算力芯片、中文数据集、深度学习框架等领域的卡点和堵点,为AIGC产业链强链、补链、固链贡献力量,推动中国AIGC行业高质量发展。
未来,中科驭数也将继续致力于推动DPU软硬件技术的创新,期待在未来能够携手产业链上下游合作伙伴,实现更多突破性的技术应用,为AI应用的遍地开花做出贡献,共同推动AI领域的持续性发展。