分布式云扩展 AI 边缘算力，助力用户智能化创新

news2024/9/23 15:31:41

近期，AI 创新圈再次发布重磅产品更新。OpenAI 全新旗舰版多模态模型 GPT-4o 横空出世，其打通文本、图像、视频的富媒体理解能力以及敏捷的智能化对话，将 AI 助手的人性化表达效果，提升至更高水平。

从技术源头来看，AI 大模型的卓越表现，得益于高效的 AI 训练与推理的过程，这正需要有规模化的云计算作为算力支撑。“云+AI”两者之间才能如鱼得水、相辅相成。当下，“智”算，已然成为云计算的重要驱动力。IDC和浪潮联合发布的《2022-2023中国人工智能计算力发展评估报告》显示，预计2026年，智能算力规模将进入每秒十万亿亿次浮点计算(ZFlops)级别。算力需求激增趋势下，企业对算力“水煤电”的使用现状，也并非足够顺畅，而是存在多重维度的挑战：

集中云只是 AI 大脑 | 分布式才是 AI 抓手

为了摆脱创新者的窘境，拥有敏锐创新嗅觉的云从业人员发现，云形态正在因 AI 风向的不同发生显著改观。传统集中云，能够实现大规模的资源拓展，但高度集中的中心形态，更需要分枝散叶、如触手一般在近端呈现为分布形态。如高“智”商的章鱼物种一般，多触点、才敏捷。

ITDM 调查显示，技术负责人认识到分布式云的实用性特别适合于大数据和分析应用场景(56%)以及 AI/ML 工作负载 (47%)。而根据 ClearPath Strategies 在2023年进行了一项全球性研究，有三分之二的 IT 决策者表示在未来 12 个月内其分布式云服务的使用量预计会显著增加。超过三分之一的受访者表示，分布式云好处众多（如快速、高效处理和分析 AI/ML 数据能力），是 IT 策略不可或缺的一部分。

无处不在，布局边缘 | 强势助攻 AI 创新

业界同仁的 AI 智算之道，正与 Akamai 云计算战略不谋而合。作为 CDN 行业鼻祖，Akamai 在分布式云方面有天然优势，始终秉持着在贴近终端用户的位置，一路积淀、融合、构建了云计算、云安全、云分发三位一体的快捷服务。

如今，Akamai 云计算平台战略的关键一步，便是 Akamai Generalized Edge Compute (Gecko) 泛化边缘计算计划，以支持企业与开发者利用分布式云形态，可突破云绑定模式，获得云的便携性，助力企业开发者在多云容器化格局下，高效开发、降本增效降本增效。

应对 AI 创新的海量算力资源需求，Akamai 近日云产品阵容中新添一款基于 NVIDIA RTX 4000 Ada Generation GPU 的媒体优化型产品，并能用于 Gen AI/ML 场景，非常适合利用神经网路片进行训练和推理任务，可并行执行大量计算，更快、更高效地训练新模型，提高准确性和性能。

从 GPU 到 CPU | 提升 AI 推理性能

为突破边缘推理 GPU 容量不足、算力不足等难题，Akamai 携手 Neural Magic 和 AMD 展开三方战略合作，推出了基于 CPU 的 AI 推理技术。Neural Magic 通过稀疏化算法优化 AI 模型，降低算力需求，可以把 LLM 机器视觉NLP 模型的运行至 CPU 上；并协同 AMD 四代 CPU 特定更新的向量指令集，提升运行效率。

Akamai 用 NLP 模型进行性能测试，基于两款入门Akamai 两核 CPU 虚机，若处理4万条电影评论的文本情感分析，仅需20分钟即可完成。月费成本上，每个月可处理8600万条推理请求，单月推理成本低至82美金。Neural Magic 也使用 NLP 模型，对比了 CPU/GPU 推理效率。在维持原有模型推理准确性的同时，推理效率的两端，效率相差1000倍之多，更有助于保障企业的 AI 创新业务的可持续盈利能力。

基于分布式云 | 加速推荐引擎AI 推理

在电商、社交媒体、广告等行业，往往需要借助融合 AI、深度学习和大语言模型算法的推荐引擎，来发掘用户偏好，主动推荐可能感兴趣的内容和商品。但若缺失高质量的网络性能保障，泛互联网产业广为使用的推荐引擎，将受限于网络访问时延。

面对阻碍推荐引擎的网络访问时延问题，除优化网络架构、使用更快的网络设备、优化数据传输协议等措施，更可以基于边缘的分布式云计算网络、具有 AI 算力的边缘计算节点，支持行业用户化解推荐引擎部署、性能、延时等方面的难题。Akamai 特别建议出海企业，将 AI 推荐引擎部署距离用户更近的 Akamai Gecko 站点，获得全球范围的边缘优势。