文心大模型4.0开启测试申请,百度智能云为大模型落地五大需求提供最优解

news2024/11/17 9:40:33

写在前面

面向企业客户启动文心大模型4.0 API调用服务测试申请,服务超过17000家客户,在各行各业的近500个场景中进行大模型应用落地探索……自今年3月面世以来,百度智能云千帆大模型平台作为全球首个一站式企业级大模型平台,为业界交出了唯一一份“满分成绩单”。

10月17日,百度世界2023在北京首钢园召开。百度智能云在大会期间宣布:全面升级“云智一体”战略,面向客户落地大模型的五类需求提供全栈服务方案;面向AI原生应用开发,重磅发布“千帆AI原生应用开发工作台,加速企业AI原生应用落地;发布国内首个AI原生应用商店,以及国内首个大模型全链路生态支持体系,赋能伙伴商业增长,共建、共享繁荣的大模型产业生态。

(百度集团执行副总裁、百度智能云事业群总裁沈抖)

满足企业大模型落地五大需求:百度智能云升级“云智一体”战略

自2020年起,百度智能云在业界率先提出“云智一体”战略,并在技术架构与服务等方面进行了多次迭代升级。本届百度世界大会,“云智一体”的战略内涵全面升级为“云智一体,深入产业,生态繁荣,AI普惠”

百度集团执行副总裁、百度智能云事业群总裁沈抖表示,人工智能与云计算的深度结合是企业快速落地AI原生应用的关键,这也是百度智能云始终倡导和践行的“云智一体”理念。目前,百度集团所有应用和服务全部基于”云智一体“技术架构运行在百度智能云上。此外,面向客户落地大模型的五类需求,百度智能云基于千帆大模型平台打造的“大模型超级工厂”分别给出了最佳服务方案。

(大模型时代的云智一体)

首先,针对只有算力需求的客户,千帆平台可以提供极致高效和性价比的异构算力服务。在客户最关心的大模型训练环节,通过分布式并行训练策略和微秒级互联能力,千帆平台可以实现万卡规模集群训练的加速比达到95%;通过事先防范、事中及时发现、定位、解决,最大限度避免集群因故障等原因产生的无效运转,提高有效训练时间占比,万卡集群有效训练时间占比达到96%,充分释放集群有效算力,大幅降低客户算力与时间成本。

此外,千帆平台还兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国内外主流AI芯片,支持客户以最小的切换成本完成算力适配。

面壁智能携手知乎,基于百度智能云提供的AI算力集群,训练出“知海图AI”大模型和多模态大模型Luca,在千卡集群上的有效训练时间占比高达99%,在保障模型训练连续性的同时,可以实现模型训练效果的高效收敛。此外,知乎、好未来、地平线等企业也正在基于百度智能云提供的AI算力服务,以更加稳定、高效和经济的方式实现大规模集群的训练和管理。

其次,在模型层面,对于希望直接调用已有大模型的客户,千帆平台纳管了42个国内外主流大模型,企业客户可以快速调用包括文心大模型在内的各种大模型的API,获取大模型能力。对于第三方大模型,千帆平台还针对性地进行了中文增强、性能增强、上下文增强等优化。目前千帆平台已经服务了超过17000家客户,大模型API调用量持续高速攀升。

第三,对于希望基于现有大模型进行二次开发的客户,千帆平台为大模型的再训练、微调、评估和部署等环节提供全生命周期工具链、业界最多的41个高质量行业数据集,帮助客户针对自身业务场景快速优化模型效果。目前,包括中国邮政储蓄银行、度小满、金山办公、河北高速集团在内的诸多行业头部客户,都正在通过千帆平台提供的工具链服务开发出贴合业务需求的专属大模型。

第四,在应用层面,一部分企业需要基于大模型服务去开发AI原生应用,千帆平台上提供的一系列能力组件与框架,可以帮助企业快速完成应用开发,灵活地响应用户与市场需求。

最后,另一部分客户则希望直接、方便地选购成熟的AI原生应用产品,赋能业务发展。

赋能企业高效开发AI原生应用:发布“千帆AI原生应用开发工作台”

为了满足企业敏捷、高效地进行AI原生应用开发的需求,降低AI原生应用开发门槛,百度智能云重磅发布“千帆AI原生应用开发工作台”,将开发大模型应用的常见模式、工具、流程,沉淀成一个工作台,帮助开发者聚焦在自身业务,而无需为开发过程牵扯多余精力。具体来讲,千帆AI原生应用开发工作台主要由应用组件、应用框架两层服务构成。

应用组件服务由AI和基础云两大类组件构成,是对底层服务能力的组件化封装,让每个组件完成一个特定的功能。“AI组件”中既包含诸如问答、思维链(CoT,Chain of Thought)等大语言模型组件,还包括文生图、语音识别等多模态组件,而“基础云组件”则包含向量数据库、对象存储等传统云服务能力。

应用框架则是通过将上述这些组件有选择地串联、组合起来,让它们能够比较完整地完成一个特定场景的任务。目前,千帆平台上提供的检索增强生成(RAG)、智能体(Agent)就是常用的AI原生应用框架。在每个框架下,百度智能云还提供丰富的样板间,支撑开发者敏捷、高效地进行AI原生应用开发。

(百度智能云重磅发布AI原生应用开发工作台)

检索增强生成(RAG,Retrieval Augmented Generation)框架,可以更高效的利用企业专有领域内的知识,并在大模型的帮助下根据相关问题做出精确回答,是专业知识问答类AI原生应用的必备核心能力。

大会现场还进行了如何基于RAG框架,为三一重工快速开发知识问答应用的实操演示:只需在千帆AI原生应用工作台中选择预置的RAG框架,进行相应的参数配置等工作,就可以快速实现三一重工官网智能客服应用的开发与上线。沈抖表示,搭建这样一个“小助手”,即使需要处理几千篇万字长文档,成本也只需几百块钱;而之后用户每次咨询,成本仅需几分钱。

(基于RAG应用框架快速完成三一重工知识问答应用开发)

智能体(Agent)作为当前业界流行的应用框架,可以对人类给定的任务进行自动拆解,自动规划并调用各种组件协同完成任务,同时根据任务完成效果得到反馈,改进自身能力。目前,Agent框架已经在工业、交通等领域得到了广泛应用。

中天钢铁基于千帆AI原生应用开发工作台提供的Agent框架打造了智能化的“企业调度中枢”,实现了任务指令的自动感知、分解与执行。比如,在发现钢铁产量不达标时,用户只需提问一次,大模型就可以自动调用平台纳管的各种资源和API,完成BI取数、第三方根因分析等工作,找到未达标原因,及时调整排产计划并发送邮件通知调度人员。

(中天钢铁基于Agent应用框架打造企业调度中枢

繁荣产业生态:国内首个AI原生应用商店、全链路大模型生态体系集体问世

为了满足企业客户便捷选购优质AI原生应用的需求,赋能伙伴商业成功,百度智能云重磅推出:国内首家面向企业客户进行一站式交易的AI原生应用商店——百度智能云千帆AI原生应用商店,旨在为大模型时代AI原生应用的供需双方建立起便捷、可靠的联接通路,大幅提升客户应用选型与采购效率,为伙伴商家创造更多商机。目前,企业用户可以通过百度智能云官网,进入千帆AI原生应用商店,选购心仪的AI原生应用。

(百度智能云千帆AI原生应用商店)

本届世界大会,百度发布了国内首个生成式商业智能产品——百度GBI(Generative Business Intelligence)。BI(商业智能)是当下展现大模型能力“天花板”的典型应用场景之一。百度GBI作为AI原生应用引擎,基于文心大模型实现了“智能问数”能力的全面重构:面向任意数据库,都可以通过对话一步完成查询与分析,相比传统BI大幅提升了数据分析的效率,降低了数据分析专业能力要求。

以企业经营数据分析为例,百度GBI可以把商业数据分析师十几天才能完成的数据分析、撰写报告的工作时长,从以天为单位缩短到以分钟为单位。而作为一类AI原生应用框架产品,百度GBI还可以实现极简的跨行业、跨领域能力迁移,快速落地如城市治理分析、能源消费洞察、工业设备运行管理、金融投资决策、交通拥堵治理等场景中,高效实现政企BI类AI原生应用的开发构建。

(百度GBI功能展示)

金蝶作为首批入驻千帆AI原生应用商店的伙伴,联合百度智能云于2023年8月8日重磅发布了金蝶云·苍穹GPT,并率先推出业界首个财务大模型,助力客户更加高效地进行财务管理与分析,提高财务处理的准确性和规范性,为企业的长期稳定发展提供强有力的保障。

大模型技术不仅正在重塑云计算的服务模式和产品形态,也正在重塑云计算产业的生态格局,对云计算厂商和其覆盖千行百业的合作伙伴的能力与体系建设提出了全新要求。

为了助力合作伙伴们取得大模型时代的商业成功,百度智能云建设并推出了国内首个大模型全链路生态支持体系,并为10家综合伙伴、100家应用伙伴、1万家以上的初创企业以及代理伙伴,提供包括千帆社区、AI原生应用孵化、销售商机、市场营销、赋能培训,以及千帆AI原生应用商店等全方位的支持。

百度集团副总裁袁佛玉表示,“在这个瞬息万变的时代,百度不仅要在大模型技术和商业化探索的道路上勇闯无人区,还要与众多合作伙伴共同打造繁荣的产业生态,共同探索新的商业模式和商业机会,实现真正的合作共赢。”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1106454.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

PS修改背景色,线框底图

1、打开图片,ctrlj复制一层 2、图像-调整-反相 3、ctrll调整色阶,将中间的色块向右移,灰色线和字体的会变黑

移动端签名组件封装 借用插件 vue-esign

目录 需求实现讲解工具 - 图片旋转、base64 转换为 file 对象组件封装组件全局注册组件使用效果展示 需求 移动端需要实现手机横屏手写签名并上传签名图片功能。 实现讲解 vue-esign 插件文档地址 https://www.npmjs.com/package/vue-esign SignCanvas 组件封装原理&#xff1a…

【数据结构】830+848真题易错题汇总(自用)

【数据结构】830848易错题汇总(10-23) 文章目录 【数据结构】830848易错题汇总(10-23)选择题填空题判断题简答题:应用题:算法填空题:算法设计题:(待补) 选择题 1、顺序栈 S 的 Pop(S, e)操作弹出元素 e,则下列(C )是正…

虹科分享 | 选择SAS还是NVMe?虹科网络基础带您一探究竟!

存储架构师需要通过确保他们选择的存储解决方案提供支持其生态系统所需的安全性、稳定性、可扩展性和管理特性来应对当今的业务挑战。当他们考虑采用新的存储技术时,在采用新技术之前,他们应该权衡和审查一些基本的考虑因素。新的存储协议不断进入市场&a…

Postman for Mac - 轻松进行API测试的利器

在当今的数字化时代,应用程序编程接口(API)已成为推动软件创新和互操作性的核心动力。API测试作为确保服务质量的重要一环,也越来越受到开发者的重视。其中,Postman作为一款极其流行的API测试工具,其简洁易用的界面和强大的功能&a…

美妆品牌如何有效利用软文推广引流获客

近年来随着美妆品牌的转型升级和居民消费观念的转变,美妆行业取得了更大发展空间,新产品不断涌现,消费者拥有更多选择,那么在竞争激烈的市场中美妆品牌如何才能突破重围,找出新的价值增长点呢? 一、 细分消…

NewStarCTF2023week3-阳光开朗大男孩

下载附件解压得到两个txt文本 secret.txt一看很明显是核心价值观编码 解码得到 this_password_is_s000_h4rd_p4sssw0rdddd flag.txt最开始没看出来是什么,主要是之前没遇到过 题目提示:我是阳光开朗大男孩~阳光开朗大男孩~ 我…

线程池工作原理

1:处理Runnable 任务的方法 package ThreadPooITest;import java.util.concurrent.*;//目标:线程池创建 public class ThreadPoolTest {public static void main(String[] args) {//1:通过ThreadPoolExectorExecutorService pool new ThreadPoolExecuto…

数据模型设计必读方法论!很实用

数据架构的重要构件之一是数据模型,当然从数据架构的视角来说的数据模型是指企业级数据模型。本篇文章更多是讨论如何设计和管理数据模型,此处的数据模型是泛指在组织中通过数据建模的过程,来发现、分析和确定数据需求范围,并用于…

6.(vue3.x+vite)路由传参query与params区别

前端技术社区总目录(订阅之前请先查看该博客) 效果截图 一:路由传参有两种方式:params与query params与query区别 1:param,路由带“/”,query带“?” 2:query传过来的参数会显示到地址栏中 而params传过来的参数可以显示参数或隐藏参数到地址栏中(vue-router 4.1.4不…

MSVCR80.DLL 丢失修复方法:完美解决你的问题!

MSVCR80.DLL 是 Microsoft Visual C Redistributable Package 中的一个动态链接库文件,它扮演着非常重要的角色。然而,当你在运行某些应用程序时,可能会遇到“MSVCR80.DLL 丢失”错误。这时候你就需要采取一些措施来解决这个问题了&#xff0…

待办任务清单app哪个软件好用?

手机成了我们生活的延伸,而对于繁忙的工作节奏,一款好用的任务提醒软件就如同一位贴心的助手,时刻提醒我们的待办任务。在众多软件中,敬业签是一款比较不错的记录待办任务清单的工具。 在手机上,打开敬业签&#xff0…

swagger gin 文档接口排序,写了一个小工具,自定义接口排序

起因没找到swagger 自定义接口排序 代码原理就是替换 swag init 生成的docs.go paths 部分 ,取到swagger.json paths 部分排序,正则匹配docs.go paths 部分,然后通过自定义排序,替换paths部分,这个根据自定义的需求来…

Stable Diffusion WebUI报错RuntimeError: Torch is not able to use GPU解决办法

新手在安装玩Stable Diffusion WebUI之后会遇到各种问题, 接下来会慢慢和你讲解如何解决这些问题。 在我们打开Stable Diffusion WebUI时会报错如下: RuntimeError: Torch is not able to use GPU;add --skip-torch-cuda-test to COMMANDL…

操作系统面试常问问题--保研及考研复试

前言: Hello大家好,我是Dream。今年保研上岸山东大学人工智能专业 (经验贴),现在将我自己的专业课备考知识点整理出来,分享给大家,希望可以帮助到大家!这是重点知识总结,…

基于Pix4D使用无人机光学影像制作正射影像(DOM)和数字表面模型(DSM) 操作步骤

基于Pix4D使用无人机光学影像制作正射影像(DOM)和数字表面模型(DSM) 操作步骤 0. 前言1.获取无人机光学影像2.DOM和DSM3.操作步骤3.1 初始界面3.2 新建项目3.3查看处理过程报告3.4查看处理进度和成果 4.在ArcMap中打开DSM和DOM 0.…

Linux高性能服务器编程——ch1笔记

第1章 TCP/IP 协议族 1.1 TCP/IP 协议族体系结构以及主要协议 数据链路层 网卡接口的网络驱动程序,以处理数据在物理媒介(比如以太网、令牌环等)上的传输。 协议:ARP、RARP,实现IP地址和机器物理地址之间的转换。 网络…

适用于小型企业的远程控制软件分享!

远程控制软件对小型企业的好处 远程控制软件允许用户从远程位置连接到计算机,然后访问和使用远程计算机上的资源。这对于需要为客户提供远程技术支持的企业来说,是一个非常重要的工具。 借助远程控制软件,小型企业人员在远程工…

同城代驾开源版小程序开发

同城代驾开源版小程序开发 功能特性描述: 定价模式:本系统支持灵活的计价模式,包括白天和夜晚的起步价、起步里程、每公里价以及超时费用,从而满足不同时段的定价需求。 实时路径计算:通过集成腾讯地图的软件开发工…

学习c#桌面应用编程 --- 我的第一个游戏

场景 我需要做一个c#桌面窗口软件,但是我曾经都是专职于java开发,但是java对windows并不是特别友好(awt除外),于是必须需要掌握c#桌面编程,所以我需要手动做一个小游戏,来学习c#的一些基本桌面应用的知识。 开始 这…