从“可用”到“好用”,百度智能云如何做大模型的“超级工厂”?

news2024/9/27 5:27:44

如果说,过去两三年大模型处于造锤子阶段,那么今年,更多的则是考验钉钉子的能力,面对各类业务场景大模型是否能够有的放矢、一击必中,为千行百业深度赋能。

当前市场上,已经有200多把这样的锤子在疯狂找钉子。但从实际应用来看,大模型在文生文、文生图以及扮演初级的工作助理等方面还算合格,但要是真正落地到一线场景,解决业务痛点,提升生产和服务效率,还需要下更多功夫。

从最近几个月的风向看,也不乏有人提出质疑,如此之多的大模型,其实用性到底有几分?这里面是不是也存在着不小的“泡沫”?无须讳言,“泡沫”一定是有,为了大模型而大模型的企业甚至不在少数。

但不可否认是,业内也有以百度智能云为代表的实干者在持续探索大模型的实际价值,不断推出可应用、可落地、可产生效益的大模型产品和解决方案,通过AI原生应用推动企业以及行业的创造力和生产力全面提升。

9月25日,2024百度云智大会正式举行。本届会议不仅围绕基础设施、大模型、开发工具链、AI原生应用等方面进行了多项全新发布,还为业界带来了大模型产业落地的最佳实践。a3086b5c546e795e440c8ff3c4494431.jpeg


“云智一体”战略牵引,为大模型铺路筑基

当各行各业拥抱大模型之后,都会有一个共识,MaaS将是一种新的应用开发范式。在云计算时代,是基于PaaS做SaaS,再提供给用户;智能化时代,则回归到MaaS底座上,再结合千行百业的场景,打造智能化应用,提供用户所需要的业务价值。

在“百模大战”的行业大环境下,百度智能云事业群总裁沈抖曾表示,过去一年是大模型从技术变革走向产业变革的关键一年,而大模型和云计算紧密结合,正在成为新型的基础设施。从1834年第一台现代发电机诞生,到1882年美国建成全球第一座电厂,再到电力成为全球的能源基础设施,每一次升级都能带来生产力的巨大跃迁。而且一次比一次速度更快,影响更大。

面对AI浪潮席卷全球,百度智能云希望更多的创业者、企业用户能够繁荣大模型生态。去年10月,百度智能云将战略升级为“AI原生时代的云智一体”,围绕“云智一体,深入产业,生态繁荣,AI普惠”理念,聚焦更高效的算力基础设施、更好用的一站式大模型平台和AI原生应用开发平台,以及更丰富的AI原生应用样板间和行业解决方案,去满足客户在大模型时代的不同业务需求。

在“云智一体”战略框架下,百度智能云自下而上推出一整套AI原生技术栈,包括异构算力基础设施“百度·百舸AI异构计算平台”、一站式大模型平台“千帆ModelBuilder”和AI原生应用开发平台“千帆AppBuilder”、AI生成式产品“文心大模型”,以及数字人、智能客服、超级助理、生成式BI等丰富的AI原生应用和行业解决方案,满足各行各业在AI原生时代的不同业务需求,全力赋能千行百业,加速推进产业智能化。

a003c5f6b40c4157cce3bf741073630a.jpeg

百度智能云事业群总裁 沈抖


在IDC近日发布的《中国大模型平台市场份额,2023:大模型元年——初局》报告中,百度智能云以19.9%的市场份额居中国大模型平台市场第一。从应用角度看,百度智能云能够连续多年保持领先优势主要得益于三方面的原因:一是布局全栈AI技术,形成端到端的AI优化机制;二是在生成式AI、多模态、大模型应用场景、OCR、对话式AI等AI软件方面具备明显优势;三是拥有最大的AI及大模型产业落地规模,广泛覆盖金融、制造、能源、互联网等行业。

作为AI时代的新型生产力,数据、算力和算法成为关键资源。在大规模前端产品落地后,算力建设能否及时跟上,成为AI大模型向各领域进一步渗透的关键因素。

面对大模型高昂的计算成本和算力资源供应短缺的问题,如何在大模型训练推理上高效使用算力、扩大算力来源是业务的核心考验。

沈抖指出,过去一年的最深感受就是大模型训练的需求越来越大,需要的集群规模也越来越大。与此同时,行业对推理的成本下降的预期也越来越高。这些都对GPU管理的稳定性和有效性提出了更高的要求。此次,百度智能云对百舸做了大幅升级。

目前,百度百舸AI异构算力平台能够对不同地点、规模、集群的智能算力进行统一管理,并基于芯片性能优化、自动芯片选型、潮汐混部等技术,大幅提升智能算力效能,万卡集群上的模型有效训练时长占比超过99.5%。相同的大模型任务,百舸能够帮助客户将资源成本降低一半。

6bad068e70dfde0f6dff771016453374.jpeg

为了解决算力不足问题,“一云多芯”是中国企业的必然选择。百舸已经攻克了同一智算集群中混合使用不同厂商芯片的业界难题,帮助企业摆脱单一芯片依赖,打造更有性价比、更安全、更具弹性的供应链体系。百舸能够在兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国内外主流AI芯片的同时,最大限度屏蔽硬件之间的差异,在多芯混合训练任务中百卡规模性能损失不超过3%,万卡规模性能损失不超过5%,均为业界最高水平。

基于强有力的算力平台,百度智能云搭建起一站式企业级大模型平台——千帆。该平台不仅提供包括文心大模型4.0、4.0 Turbo和3.5三款旗舰模型、主流开源大模型在内的近80款大模型服务,还提供覆盖开发大模型、AI原生应用全生命周期的工具链。同时,为进一步实现AI技术普惠,平台还预置了ERNIE Speed、ERNIE Lite、ERNIE Tiny三款性价比较高的主力模型,帮助开发者和企业降低大模型使用门槛和试错成本,加速业务创新。

为了进一步降低行业大模型的开发门槛,百度智能云推出了千帆·行业增强版,将通用大模型的理解、生成、逻辑、记忆能力,与行业模型的专业能力相结合,搭配体系化的工具和组件,支持从资源管理、大模型服务到应用开发的全过程,把企业定制化的部分从“最后一公里”缩短至“最后一百米”,让行业的应用开发事半功倍。

目前,百度智能云的各类大模型产品已广泛覆盖交通、政务、教育、金融、制造、能源、互联网等行业,并深入到“研、产、供、销、服”的每个环节中,取得了显著成效。

截至2024年Q2,千帆大模型平台日调用量超过7亿次,累计开发出了超过70万个AI原生应用。

d4c202791311c8aebd6b357b1252ac9a.jpeg


小切口大纵深,从实践中来到实践中去

大模型商业化应用的核心在于能否真正解决用户问题。

在经历了“百模大战”的锤炼之后,企业们的技术能力正变得越发强劲,大模型开始走向商业化落地。今年以来,中国10亿参数规模以上的大模型数量已超100个,行业大模型深度赋能电子信息、医疗、交通等领域,形成上百种应用模式,赋能千行百业。

4a9b381332cf36f965324bc7f7b2cca1.jpeg

随着技术迭代曲线放缓、基础大模型赛道的竞争格局企稳,生成式AI市场的性质正在发生变化,更多的创新和价值创造正在向应用层汇聚。沈抖曾表示,企业有多少业务场景,未来就有多少AI原生应用。这也印证了百度智能云正在通过对产业痛点的深入洞察和理解,将大模型与实体经济及行业应用全域融合,在服务产业的过程中,也进一步完善和提升了大模型的行业能力,形成互为反哺、相互促进的正向循环。

沿着这一逻辑,大模型一个最为前景的应用场景,就是垂直领域专业服务。越是复杂的问题,越是专业的领域,越能孕育出更具价值的商业化应用。最典型者如金融、政务、交通等行业。

在教育领域,教育龙头企业好未来运用百度百舸·AI异构计算平台,为其自研九章大模型(MathGPT)提供关键支撑。九章大模型在成功内测推出后,已经成功在智能硬件学习机xPad实现了业务上线。九章大模型的“数学随时问”功能可以实现对80%的数学题即问即答,暂时不能回答的最快可在一小时内上传真人讲解视频、20分钟内生成AI视频解析。此外,好未来AI辅导工具xPad2 Pro系列还上线了自研的新功能“AI对话学”,该功能基于九章大模型的解题和讲题能力,通过与学生进行启发式的对话交流,打开题目的黑盒,快速分析出学生的薄弱点,从而使教育更具针对性。

面对快速增长的电动汽车智能座舱需求,蔚来汽车基于千帆平台,在文心大模型的基础上通过提示词工程打造出了业内首家纯端侧部署的多模态感知大模型——NOMI GPT,助力客户座舱场景体验创新。

NOMI能够自然地与用户互动,成为一个更懂用户、更聪明的座舱AI小助手。通过文心大模型,NOMI能够对用户的用车问题解答,还能实时监测车况,支持用户口语化模糊查找。比如用户说出目的地城市,NOMI就能帮助用户推荐景点游玩攻略、景点推介、食宿推荐等;用户给出关键词,NOMI可以给出理解并调整氛围灯色调。此外,NOMI还能自定义角色陪聊,具备儿童百科问答、学习解惑、语言游戏等多种功能。目前,NOMI已经陪伴了近20万车主家庭,已经成为有温度的情感陪伴和移动的生活空间。

在港航领域,百度智能云与山东日照港联合探索大模型港口应用场景,推动大模型试点应用,赋能港航领域产业链上下游企业和生态企业智能化转型升级。2023年,日照港口货物吞吐量达到5.93亿吨,跃居全国第六、世界第七;全市临港产业产值占规上工业总产值的比重达85%以上。和一般码头有点不一样的是,这里专做件杂货。

件杂货,是对论件计数、形状各异、大小不一的货物的统称。这类货物的包装形式、类别各不相同,无法使用集装箱运输,还存在不同的存放需求和上船时间要求,装卸工具和方案各异,装卸工艺流程复杂、人机交互频繁。

相比集装箱码头,件杂货码头实现自动化和智能化的难度更高。由于件杂货的独特属性,码头需要可靠、准确的图像分析和智能算法,对货物进行有效识别、定位并进行智能配载。

百度智能云运用人工智能技术,打造智能化系统,为件杂货码头自动化、智能化升级探索可行路径。通过百度智能云OCR视觉识别技术,在货物即将进港时,工作人员就可识别货单信息,将具象化的货物实体转化为算法支持的数学逻辑,从而避免人工录入造成的失误,提升数据录入的准确性,降低货运代理数据录入工作量。

智能化系统可对整个港口的堆场进行厘米级的地理信息采集,实现人员、车辆、设备、货物、场地、船舶等要素精准定位,形成一张“综合地图”。数字化堆场系统会从TOS系统(Terminal Operating System,码头智能生产管理控制系统)中获取各生产要素的实时信息,并在高精地图中进行实时展示,助力业务人员远程作业。

在实现多维生产要素和生产流程的数学建模的同时,智能化系统基于调度数据优化大模型的调度算法,提供包括智能堆场计划、智能泊位计划和智能配载计划等调度计划策略,再通过实时的人员排班调度、港机作业调度和水平运输车辆调度等,实现件杂货码头自动化、智能化运转。此外,调度优化大模型还可以提高码头作业全流程的人机协同效率,将人工智能算法下沉到各类机械的调度和控制中,大大降低码头的整体运转控制难度,提高控制精度,实现港口智能化再升级。

依托百度智能云打造的智能化系统,山东日照港件杂货码头整体运转效率提升10%,设备利用率提升20%,堆场周转率提升20%,堆场利用率提升15%,并实现大模型在港航领域的成功应用。

从“可用”到“好用”,从“潮玩”到“普适”,大模型在千行百业的场景落地是结合场景定义、训练、调优、运维等多个步骤的螺旋式上升过程。作为AI时代的底座建设者,百度智能云正结合软硬件能力,赋能开发者和生态伙伴,进一步释放AI的创新潜能。

【关于科技云报到】

企业级IT领域Top10新媒体。聚焦云计算、人工智能、大模型、网络安全、大数据、区块链等企业级科技领域。原创文章和视频获工信部权威认可,是世界人工智能大会、数博会、国家网安周、可信云大会与全球云计算等大型活动会议的官方指定传播媒体之一。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2168993.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

从零开始使用树莓派debian系统使用opencv4.10.0进行人脸识别(保姆级教程)

一、总体架构 本文主要是使用树莓派自带的csi摄像头,搭配上opencv4.10.0进行物体的识别。本文使用的环境是python3.7.3,环境不一样有可能安装的opencv的过程也会很不一样,但是python的环境我们可以自己自行安装。 二、树莓派系统的安装 本文…

江协科技STM32学习- P19 TIM编码器接口

🚀write in front🚀 🔎大家好,我是黄桃罐头,希望你看完之后,能对你有所帮助,不足请指正!共同学习交流 🎁欢迎各位→点赞👍 收藏⭐️ 留言📝​…

亲身体验Llama 3.1:开源模型的部署与应用之旅

文章目录 1 Llama 3.1系列的诞生2 大型模型的未来发展3 使用教程4 Llama 3.1在客户服务中的运用 1 Llama 3.1系列的诞生 在人工智能的浪潮中,大型语言模型(LLM)正以其独特的魅力和潜力,成为深度学习领域的一颗耀眼明星。 这些模…

计算机毕业设计Hadoop+Spark知识图谱体育赛事推荐系统 体育赛事热度预测系统 体育赛事数据分析 体育赛事可视化 体育赛事大数据 大数据毕业设计

《HadoopSpark知识图谱体育赛事推荐系统》开题报告 一、研究背景及意义 随着互联网技术的迅猛发展和大数据时代的到来,体育赛事数据的数量呈爆炸式增长。用户面对海量的体育赛事信息,常常感到信息过载,难以快速找到感兴趣的赛事内容。如何高…

锐捷—NAT地址映射+IPsec隧道

任务目标 在出口路由器R3上将R5私网地址1对1映射的公网地址与R1建立IPsec隧道,使得R4在访问R5的映射公网地址时,可以进行IPsec隧道的转发 要求: 1、R4和R5可通过NAT转换正常访问互联网地址(R2的lo0) 2、R5的私网地…

云手机群控怎么用?有什么优势?

群控系统,顾名思义,是用于批量控制多部手机的工具,能够通过计算机或客户端同时管理多台设备。借助群控系统,用户可以在电脑上操作多部手机,模拟真实操作场景,从而大幅提升工作效率,并有效控制管…

calibre-web默认左上角字体修改

calibre-web默认左上角字体修改 如图: 有些奇异,如果想变成正常的常规字体,需要修改: cps\static\css\style.css 下的代码: 默认是GrandHotel-Regular: 换成其他字体即可。其他字体在 calibre-web\cps\s…

图像处理04

图像处理 问题:把不规则的图片按照参考图摆放 步骤: 1. 用ORB找关键点 2. 关键点匹配 3. 根据上一步匹配的关键点得出单应性矩阵 4. 根据单应性矩阵对不规则进行透视变换 import cv2 import numpy as np import matplotlib.pyplot as pltimgl cv2.imrea…

微信小程序 - 最新详细安装使用 Vant weapp UI 框架环境搭建详细教程

前言 自从 2024 年开始,小程序做了很多改变和升级, 导致网上很多搭建教程文章的教程失效了,本文来做最新的教程。 第一步 为了更贴合新手,我这里创建了一个纯净无任何业务代码的小程序项目。

【AI基础】pytorch lightning 基础学习

传统pytorch工作流是首先定义模型框架,然后写训练和验证,测试循环代码。训练,验证,测试代码写起来比较繁琐。这里介绍使用pytorch lightning 部署模型,加速模型训练和验证,记录。 准备工作 1 安装pytorch…

铨顺宏科技携RTLS+RFID技术亮相工博会!

中国国际工业博览会盛大开幕! 铨顺宏科技展亮点速递 铨顺宏科技展位号:F117 中国国际博览会今日开幕,铨顺宏科技携创新产品亮相,吸引众多参观者。 我们珍视此次国际盛会,将全力以赴确保最佳体验。 工作人员热情解答…

实时数字人DH_live使用案例

参看: https://github.com/kleinlee/DH_live ubuntu 测试 apt install ffmpeg 下载安装: git clone https://github.com/kleinlee/DH_live.git cd DH_liveconda create -n dh_live python=3.12 conda activate dh_live pip install -r requirements.txt pip install torch -…

E. Alternating String

E. Alternating String 这道题就是前缀和的变化, 现在做起来比较简单, 打这场的时候差了点时间就做出来了 代码 #include <bits/stdc.h> #define int long long using namespace std;const int N 200010;int od[N][30], ev[N][30]; int n;void init() {for(int i 0; …

【Linux篇】常用命令及操作技巧(进阶篇 - 上)

&#x1f30f;个人博客主页&#xff1a;意疏-CSDN博客 文章目录&#xff1a; Linux常用命令以及操作技巧&#xff08;进阶&#xff09;前言一、远程管理常用命令1、关机/重启shutdown命令 二、查看或配置网卡信息2、网卡和IP地址网卡IP地址ifconfig命令ping命令 三、SSH基础1.…

Dart中FFI学习

Flutter中FFI学习 Dart FFI编程概述NativeType&#xff08;类型映射&#xff09;Window安装GCCDart调用C的函数数组字符串结构体 Dart FFI编程 概述 dart:ffi库可以使用Dart语言调用本地C语言API ,并读取、写入、分配和删除本地内存。FFI是指外部函数接口&#xff08;Foregin…

JS设计模式之组合模式:打造灵活高效的对象层次结构

引言 当我们构建复杂的应用程序时&#xff0c;经常会遇到处理对象层次结构的情况。这些层次结构通常是树形结构&#xff0c;由组合节点和叶子节点组成。在这样的情况下&#xff0c;JavaScript 设计模式之一的组合模式就能派上用场。 组合模式是一种结构型设计模式&#xff0c…

Gitlab学习(006 gitlab操作)

尚硅谷2024最新Git企业实战教程&#xff0c;全方位学习git与gitlab 总时长 5:42:00 共40P 此文章包含第21p-第24p的内容 文章目录 git登录修改root密码 设置修改语言取消相对时间勾选 团队管理创建用户创建一个管理员登录管理员账号创建一个普通用户登录普通用户账号 群组管理…

工业交换机一键重启的好处

在当今高度自动化和智能化的工业环境中&#xff0c;工业交换机作为网络系统中至关重要的一环&#xff0c;其稳定性和可靠性直接影响到整个生产过程的顺利进行。为了更好地维护这些设备的健康运行&#xff0c;一键重启功能应运而生&#xff0c;并呈现出诸多显著的好处。 首先&am…

助力降本增效,ByteHouse打造新一代云原生数据仓库

随着数据量的爆炸式增长、企业上云速度加快以及数据实时性需求加强&#xff0c;云原生数仓市场迎来了快速发展机遇。 据 IDC、Gartner 研究机构数据显示&#xff0c;到 2025 年&#xff0c;企业 50% 数据预计为云存储&#xff0c;75% 数据库都将运行在云上&#xff0c;全球数据…

Swagger配置且添加小锁(asp.net)(笔记)

此博客是基于 asp.net core web api(.net core3.1)框架进行操作的。 一、安装Swagger包 在 NuGet程序包管理中安装下面的两个包&#xff1a; swagger包&#xff1a;Swashbuckle.AspNetCore swagger包过滤器&#xff1a;Swashbuckle.AspNetCore.Filters 二、swagger注册 在…