近日,沐曦集成电路(上海)有限公司(以下简称“沐曦”)的曦思®N100人工智能推理GPU与百度飞桨完成 I 级兼容性测试。测试结果显示,双方兼容性表现良好,整体运行稳定。这是沐曦自2022年9月加入“硬件生态共创计划”后的阶段性成果。
本次 I 级兼容性测试基于Paddle2ONNX工具,完成了计算机视觉技术领域包括图像分类、目标检测和OCR等领域共计10个模型的验证。经双方联合严格测试表明,曦思®N100在ResNet50、YOLOv3、det_mv3_db等模型上的精度和性能的表现满足要求,与飞桨的兼容性良好,整体运行稳定,达到了I级适配互认要求,推理性能可以满足用户的应用需求。
曦思®N100是一款面向云端数据中心应用的人工智能推理GPU,内置MXN100异构GPGPU处理器以及HBM2E高带宽显存,单卡算力达160TOPS(INT8)和80TFLOPS(FP16),兼备高带宽和低延时的特性,能够提供高达128路编码和96路解码的高清视频处理能力, 兼容HEVC、H.264、AV1、AVS2等多种视频格式, 最高支持8K分辨率。同时配备自主研发的MXMACA®软件栈,与硬件架构紧密耦合,支持多种主流框架的网络模型,以及主流计算机视觉处理和多媒体处理框架。通过持续完善的ModelZoo,客户可以开箱即用,实现了各类应用场景和业务模型的快速迁移。曦思®N100可广泛应用于智慧城市、智慧交通、云计算、智能视频处理等行业多场景。目前,该产品已实现规模量产,并与多家重点行业客户及服务器厂商联合打造应用落地解决方案,开展深度的生态合作。
“此次与飞桨完成兼容性测试,证明曦思®N100在计算机视觉领域与飞桨模型高度适配,这是双方共创计划合作的重要成果,体现了沐曦产品的高度成熟度和广泛适用性。” 沐曦联合创始人、CTO兼首席软件架构师杨建表示:“未来,沐曦将与飞桨进一步深化合作,面向更多智能应用领域,共同打造更广泛的软硬件一体解决方案,加速AI产业应用落地,促进人工智能产业链和数字经济的高质量发展。”
飞桨(PaddlePaddle)以百度多年的深度学习技术研究和业务应用为基础,集深度学习核心训练和推理框架、基础模型库、端到端开发套件、丰富的工具组件于一体,是中国首个自主研发、功能丰富、开源开放的产业级深度学习平台。目前,飞桨已凝聚535万开发者,基于飞桨创建67万个模型,服务20万家企事业单位。与飞桨适配的国内外芯片/IP厂商已超过40家,飞桨与硬件厂商的合作也进入了新阶段。2022年,飞桨携手国内外近30家硬件厂商联合发布硬件生态共创计划,结合伙伴自有软硬件基础开发栈特色,针对不同应用场景和产品,共同推出厂商定制版飞桨框架,建设开源开放模型库,开发课程与培训内容等,以更好地服务开发者。
未来飞桨将联合更多硬件伙伴通过技术的联合研发和生态共建,一起开拓更多软硬件协同的产品和功能,共创合作共赢生态模式。在此,飞桨诚邀更多企业加入硬件生态共创计划,聚生态之力,共同打造软硬一体的全栈式人工智能平台,促进人工智能产业链高质量发展。
点击下方链接申请加入“硬件生态共创计划”
https://www.paddlepaddle.org.cn/hardware_co_creation