AI Native平台，跨越AI应用从创新到生产的鸿沟

news2024/11/16 13:03:21

2024年是AI应用的元年，以大模型为中心的 AI Native 应用大爆发正在从理想变成现实。云计算带来的应用创新潮，经历了虚拟机时代和云原生时代，正在全面拥抱以大模型为核心的 AI Native 阶段，推动大数据与AI的工作流前所未有地紧密结合。领先大模型、高效的AI计算平台和统一的大数据平台是 AI Native 应用广泛落地背后不可获缺的要素。

9月20日，2024云栖大会上，阿里云副总裁、阿里云计算平台事业部负责人汪军华宣布大数据AI平台全面升级，为 AI Native 应用大爆发提供坚实的平台支撑。

多模态数据统一纳管、多计算引擎平权计算、大数据AI一体化开发

随着大模型技术革新和互联网应用发展，多模态数据规模持续增长、价值日益凸显，这也为大数据系统带来了成本和管理的挑战。与此同时，无论是模型训练的数据处理，还是AI应用的生产化落地，都需要打通大数据开发和AI开发流程。

应对 AI Native 时代的新需求，阿里云正式发布 OpenLake 解决方案，构建大数据、搜索、AI一体化的能力体系，实现多模态数据统一纳管、多种计算引擎平权计算、大数据AI一体化开发，助力企业基于数据资产构筑竞争力。

OpenLake 建立在 OSS 开放的公共数据湖仓基础之上，使用元数据管理平台 DLF 统一管理结构化、半结构化和非结构化数据，提供湖仓数据的安全访问机制、文件增删查改能力和 I/O 加速能力。
在引擎层，包含 PAI、MaxCompute、Hologres、Flink、EMR StarRocks、EMR Spark、AI搜索引擎在内的各类计算引擎，可以访问同一份数据并进行协同计算，消除数据壁垒和存储冗余。
在开发层，DataWorks 提供一体化的 IDE+Notebook 模式，实现多引擎 SQL 和 Python 统一开发，并提供多任务可视化调度保障。

OpenLake 专门面向企业级大数据处理分析复杂需求而设计，应用场景包括：统一湖存储、基于 Flink 新一代流式湖仓、基于 Hologres/StarRocks 的新一代实时查询湖仓、基于 MaxCompute 和 Hologres 的经典流批查询湖仓、基于AI搜索的多模态 RAG 检索增强、以 DataWorks 为核心的大数据AI多引擎协同开发等。

AI有效算力10倍以上提升，人工智能平台持续进化

大模型研究和应用带来了指数级增长的算力需求。从去年9月至今，阿里云在建设更多AI计算集群的同时，不断地通过软件层调度优化技术提升有效算力规模，目前，阿里云AI计算集群的有效利用率达到90%以上，整体AI有效算力相比去年同期提升超过10倍，为云上AI创新提供坚实保障。

面向 AI Native 应用大爆发催生的模型推理新特点，人工智能平台 PAI 全面升级 PAI-EAS 推理服务模块。PAI 内置推理优化引擎 BladeLLM，综合 BlaDNN 高性能算子、量化、 PD分离的分布式推理、prompt cache 缓存优化等技术，能有效降低首包时延 (TTFT) 84%以上、降低 token 输出时延 (TPOT) 69%以上、提升推理吞吐80%以上。此外，结合 LLM 推理负载感知智能路由和专属网关，PAI-EAS 能根据实时业务负载和资源类型灵活调度，将推理任务动态分发至遍布全球的推理集群进行计算。

为了进一步提高计算资源利用率，PAI 正式发布 AI Scheduler 训推一体调度引擎，具备异构算力混合调度、多级 quota 管理、任务形态混合调度、任务无感切换等能力，可保障集群任务满载，提升利用率。

大模型能力不断进化，也引发了对于模型安全的担忧。人工智能平台 PAI 推出可信AI模块，具备毒性数据清洗、机密计算容器、不当推理内容拦截等功能，保障模型和数据安全。

阿里云 x Elastic 战略合作发布

本次云栖大会上，阿里云副总裁、计算平台事业部负责人汪军华与 Elastic 全球副总裁 Bahaaldine Azarmi 联合宣布双方战略合作，目前，阿里云上的 Elasticsearch 产品已从白金版全面升级至企业版，双方将加大投入联合运营 Elastic 中国技术社区，服务更多开发者。

Elastic 全球副总裁 Bahaaldine Azarmi 表示：长期以来，Elastic 与阿里云和合作是令人振奋的。在生成式AI技术不断发展的今天，Elastic 与阿里云将更紧密地携手，共建AI搜索产品和场景方案，共同运营中国技术社区。不断为中国企业和开发者带来领先的搜索产品和能力。