1886年,世界上第一辆汽车诞生。在随后的一百多年时间里,汽车成为广泛用于社会经济生活多种领域的重要交通运输工具,极大地推动了人类社会经济的发展。进入新世纪,汽车的电动化、智能化日趋明显。
在汽车智能化方面,最核心的当属智能驾驶了,从ADAS到智能驾驶,越来越多的AI技术在汽车上得到应用。相比有人驾驶的汽车,智能驾驶汽车需要通过三大关键系统感知层、决策层和执行层,来模拟驾驶人员的眼睛、大脑和四肢。感知层在完成全方位准确地环境感知、车辆感知的同时,结合高精度地图,将点云图像和道路图像等信息传递给汽车的中央控制平台进行决策,在其中的计算平台上,就会有大量近乎实时的AI在线推理任务。在推理之前,平台还需要做大量的深度学习算法开发和模型训练任务,来不断提高对动静态物体、通行空间和车道线等环境的计算机视觉识别准确率,因此智能驾驶对AI算力的需求极大。
智能驾驶用户通过物理GPU的方式使用算力时,通常会遇到以下挑战:
1 算法工程师与GPU算力资源配比难题
1:1 配置,算法工程师在写代码的时候是不需要算力的,大量资源处于等待状态,造成GPU资源严重浪费;据统计,独占的使用模式下,GPU利用率长时间处于25%以下。而采用N:1的配置,又可能造成算法工程师的任务长时间排队,造成人力浪费。
2 资源分配不够灵活
无法实现GPU资源按需动态、快速分配,不能满足算法开发、训练和推理等各种AI应用的算力需求。
3 缺少AI平台,难以统一管理
GPU分散使用,缺少统管平台,运维人员无法有效整体调度、监控和管理。
OrionX AI算力池化解决方案采用软件定义算力的方式,让用户可以按需、任意细颗粒度地切分GPU资源,使算法开发、模型训练和推理任务都能灵活地调度,并满足需求的AI算力资源,并且AI算力资源能随着不同类型、不同资源需求和任务的大小进行弹性收缩。
特别强调的是,除了在单服务器节点上池化,OrionX还能做到数据中心大规模的服务器节点整体池化,通过远程调用和众多池化的功能,让用户任务能按需调用整个数据中心内的AI算力资源,实现CPU、GPU、任务、时间等各要素资源的最佳配比和最高效协同,而且用户无需改变任何使用习惯。
OrionX解决方案业务架构
目前OrionX解决方案在智能驾驶领域有以下应用场景:
1 个人开发机GPU池化平台
OrionX实现AI算力资源动态调用和释放:
OrionX实现昼夜资源池动态调整:
2 大IO模型/仿真任务
对CPU消耗大导致GPU未充分使用类型的AI训练任务(如大IO模型/仿真任务),OrionX通过远程调用功能,可以将任务分布在多个CPU服务器上,当需要使用GPU资源时,再将这些任务所需的GPU资源匹配到同一个GPU服务器资源,从而让昂贵的GPU资源得到充分使用,实现CPU和GPU资源合理配比。
3 Gemini AI平台
同时,为了解决用户在AI开发过程中的难题(环境搭建难、模型训练难、团队协作难、开发资源管理难)和运维管理难的问题(资源管理难、监控运维难、资源调度难、用户管理难),GeminiAI平台应运而生。
Gemini AI平台解决方案架构
Gemini以云原生容器服务为基础架构调用云资源,配合人工智能、大数据以及分布式计算框架,服务于企业的AI算法开发、模型训练以及AI应用部署需求。借助容器、微服务、无服务器等云原生优势,企业和开发者得以在IT成本优化的条件下实现AI算法高效训练、应用敏捷开发、程序灵活部署和全生命周期管理。
在使用了OrionX AI算力池化解决方案后,我们很高兴地看到智能驾驶客户们获得了多项收益:
1 资源利用率显著提升
通过OrionX“化整为零”、“化零为整”、“隔空取物”、“随需应变”、“显存超分”等功能特性,能帮助客户将GPU资源利用率提升4倍以上。
提升物效人效。
实现对资源的实时监控,统一纳管。通过开发、训练、运维一体化管理,以及对CPU、物理GPU、 OrionX vGPU等资源的统一纳管,运维工程师可以很方便地实时监控、调度和管理AI平台和算力资源。
搭配Gemini AI平台,显著提升易用性。Gemini AI任务所需的数据、镜像、代码集中管理,方便数据复用和分享,同时数据和信息安全得到了保障。
2 提升物效人效
GPU资源实现按需动态分配、开发和训练任务统一调度、多机多卡资源聚合,自动化训练及排队等功能,让算法工程师节省了大量宝贵的时间,更加从容专注地投身研发。
搭配Gemini AI平台,显著提升易用性
搭配Gemini AI平台,显著提升易用性。Gemini AI任务所需的数据、镜像、代码集中管理,方便数据复用和分享,同时数据和信息安全得到了保障。
科技赋能发展,创新决胜未来。随着算力成为汽车行业发展的核心要素,软件定义算力的重要性就体现出来了——统一的算力资源池化平台能满足算力资源的灵活分配和调度,在大幅提升资源利用率的同时降低TCO,赋能汽车行业的智能化升级。趋动科技基于自身技术优势为车企和智能驾驶企业提供优质的算力资源池化平台解决方案,加速车企数字化转型!