文心大模型融入荣耀MagicOS!打造大模型“端云协同”创新样板

news2025/1/10 20:50:11

2024年1月10日,在荣耀MagicOS 8.0发布会及开发者大会上,荣耀终端有限公司CEO赵明宣布了“百模生态计划”,并与百度集团执行副总裁、百度智能云事业群总裁沈抖共同宣布,百度智能云成为荣耀大模型生态战略合作伙伴。

沈抖在现场演讲中表示,“端云协同”是大模型到端侧应用的创新范式。端侧大模型更懂用户意图,云侧大模型擅长处理复杂问题,满足用户深层次需求,端侧、云侧能力互补、相互结合,将为用户带来卓越的体验。大模型将驱动移动应用二次爆发,不止现有的800万移动应用会基于大模型加速升级、重构,未来还将诞生更多全新的AI原生应用。

在这里插入图片描述
(百度集团执行副总裁、百度智能云事业群总裁沈抖)

文心大模型接入荣耀MagicOS百模生态计划

端云协同成大模型端侧应用新范式

大模型的竞争格局已逐渐从技术之争演变为应用落地和生态之争,让大模型进入千家万户才是真正价值所在。

在荣耀MagicOS8.0的发布会上,荣耀发布了“百模生态计划”,致力于携手合作伙伴共同打造端云协同的大模型服务“新生态”,荣耀将为百大模型提供入口,让云侧通用大模型和各种行业垂域大模型可以通过货架化方式融入到MagicOS中,端侧平台级AI大模型作为中控,理解用户意图,拆解编排任务,高效安全地连接云侧大模型,分发、融合、调度原子化服务,完成复杂任务闭环。

沈抖表示,“从2023年下半年开始,基础大模型的竞争就已经进入到优胜劣汰的阶段。今年再去卷基础大模型,已经没有意义。现在大家真正关心的,是怎么把大模型‘用起来’ 。大模型时代,真正给企业带来价值的,是使用大模型的深度和打磨AI原生应用的速度。

随着大模型落地不断深化,大模型到端侧应用成趋势。端侧应用是指大模型直接利用端侧芯片的算力生成结果。但动辄千百亿级参数的大模型所需的庞大算力、存储和能耗对端侧芯片提出了高要求,此外端侧用户对高性能、低时延、数据隐私等存在特别需求。因此,云侧部署的大模型加端侧应用的大模型是综合平衡性能、成本、功耗、隐私、速度之下的最佳选择。

百度智能云与荣耀一起在MagicOS上做了一次端、云协同的创新尝试。云侧通用大模型百度文心大模型赋能荣耀YOYO助理打造更专业的用户服务,带来本地化的文本创作、知识问答、生活建议等。此外,将云上的“文心大模型”与荣耀平台级端侧AI大模型“魔法大模型”相结合。

魔法大模型负责理解用户意图,在后台将用户的简单提示转化为更专业的提示,再由文心大模型提供知识问答、生活建议等专业服务。比如,当用户要求“帮我制定健康计划”时,魔法大模型会分析用户健康信息,自动生成具象化提示词,再调度文心大模型,生成更全面的个人定制健身计划。过程中,魔法大模型通过端侧防护网,滤掉敏感信息,并确保个人隐私不上云,守护安全。本次合作展现了终端厂商与云服务厂商的全新生态合作模式,也是荣耀与百度技术生态的完美契合。

沈抖表示,“端侧大模型更懂用户,可基于端侧对用户个人的学习深入理解用户意图,进而为用户带来个性化服务。云侧的基础大模型参数量更大,能力更广,能应对更复杂的问题。当用户在手机端提出一个需求,端侧模型能够准确理解其意图,并给出及时的、个性化的回应。用户如果需要了解更多,就会被引导到云侧的基础大模型,得到更深入、全面的解答。端侧、云侧能力互补、相互结合,为用户带来卓越的体验”。

在这里插入图片描述

800万移动应用将被大模型重构

2024年将是AI原生应用爆发元年

大模型也将为移动应用带来变革。

移动互联网时代有800多万移动应用,近几年移动应用的上架数量、下载量逐渐趋于平缓,但去年由大模型驱动的AI原生应用的兴起,拉开了新一轮增长势头。据统计,2023年生成式AI移动应用下载量翻了9倍,其中,AI聊天机器人增⻓了72倍。

在沈抖看来,大模型会是推动操作系统和移动应用进入下一个增长浪潮的关键力量,一定会带来移动应用的二次爆发。随着大模型使用门槛不断降低,不仅现有的800万移动应用会基于大模型加速升级、重构,未来还会有更多全新的“AI原生应用”诞生。

做重构应用的智能助手:
“Copilot for Building Copilots”

沈抖表示,做好一个AI原生应用,有两个关键步骤。

首先,做一个应用,找到合适的模型至关重要。文心大模型在理解、生成、推理和记忆等通用能力上很强,多数情况下,可以直接在千帆大模型平台调用它。在一些考虑个性化、行业知识和效率的场景,特定的专用模型会起到不可或缺的作用。未来,我们更多地会看到百度“文心大模型”这样的基础大模型和荣耀“魔法大模型”这样的平台级端侧AI大模型,还有一些基于大模型精调出来的专用模型搭配起来用,即“MoE”。专用模型融入了专业知识,更懂场景,它们负责处理特定领域的专业任务;基础大模型更智能,负责解决更全面、复杂的问题。

沈抖判断,未来会有数以百万计的专用模型。百度智能云千帆大模型平台上提供了一整套大模型开发的工具链,即千帆“ModelBuilder”,用户在上面就可以很经济、很简单地精调专用模型。目前千帆“ModelBuilder”已累计精调了10000个模型。

有了好的模型之后,下一步是开发AI原生应用。大模型正在重构移动应用的整个技术栈、数据流和业务流,这对AI原生应用的开发提出了新的挑战。百度智能云AI原生应用工作台千帆AppBuilder为开发者提供了更专业、更便捷的AI开发套件和资源环境,降低AI原生应用开发门槛。

沈抖判断,“2024年将会是中国AI原生应用爆发的元年。这些应用不仅仅是工具,它们会成为人们工作、生活上的智能助手,成为不可或缺的‘Copilot’。在这个过程中,千帆ModelBuilder和千帆AppBuilder会成为大家重构应用的‘智能助手’,也就是Copilot for Building Copilots,帮助大家为用户带来革命性的美好体验”。

据了解,百度智能云面向客户落地大模型的五类需求(异构算力、模型调用、模型精调、AI原生应用开发、选购AI原生应用),分别给出了业界最优的服务方案。

除模型和AI原生应用层面之外,百度智能云通过“百舸”异构计算平台为用户提供极致可靠和性价比的异构算力服务,目前“百舸”在大模型训练、推理各个纬度的评估指标上全部达到业界领先水平,能够在保障大模型训练、推理容错能力、稳定性的同时,助力客户大模型训、推效率飞升,加速业务智能化升级。

近期,百度智能云还宣布了,基于“云智一体”战略重构云计算服务,且已完成从底层基础设施—大模型开发与应用—AI原生应用开发的端到端升级重构。为促进AI原生应用生态的全面繁荣按下加速键。

“MagicOS是最具创新活力和影响力的移动应用生态之一,我相信,在大模型时代,它会为开发者提供更广阔的机会,为用户提供前所未有的智能体验,持续推动行业向前发展。百度智能云作为荣耀魔法大模型生态战略合作伙伴,会和荣耀一起,持续聚焦端、云大模型的深度融合,共同推动生态繁荣。”沈抖表示。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1373615.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SPDK As IPU Firmware

对于不熟悉术语Infrastructure Processing Unit (IPU, 基础设施处理器)的同学,IPU是PCIe形态的卡,连接到主机系统后可以卸载主机的“基础设施”工作。它通常是面向云服务商或者超融合服务提供商的。对于熟悉SPDK的开发人员来理解,这些卡通常具…

楼宇管理新智慧:Panorama SCADA楼宇管理系统应用实例

一、背景介绍 楼宇管理系统旨在集中控制和监测楼宇运营,涵盖暖通空调(HVAC)、照明、电力系统、消防和安全系统等。通过直观的用户界面,用户得以实时监测和精准掌控这些系统,从而提升能源效率、确保设备正常运行&#…

有哪些好用的防蓝光护眼台灯?防蓝光护眼灯品牌排行揭晓

对于大多数人来说,护眼灯已经不是什么新鲜概念。为什么要买护眼灯?相信很多人的回答都是“为了孩子”。为了保护儿童视力健康,越来越多家长选择为孩子购买一台护眼灯,也造就了这个相当具有中国特色的庞大市场。很多家长不放心台灯…

Gin CORS 跨域请求资源共享与中间件

Gin CORS 跨域请求资源共享与中间件 文章目录 Gin CORS 跨域请求资源共享与中间件一、同源策略1.1 什么是浏览器的同源策略?1.2 同源策略判依据1.3 跨域问题三种解决方案 二、CORS:跨域资源共享简介(后端技术)三 CORS基本流程1.CORS请求分类2.基本流程 四、CORS两种…

Cesium 点击实体显示可随地图移动的弹框

实体数据加载到地图上之后,使用点击事件拾取实体获取实体信息 clickPop() {let _this this;// 实体的点击事件_this.drawHandler new Cesium.ScreenSpaceEventHandler(viewer.scene.canvas);_this.drawHandler.setInputAction(function (click) {let pickedObject…

03-JVM虚拟机-课堂笔记

3-JVM虚拟机 灵魂三问: JVM是什么? JVM广义上指的是一种规范。狭义上的是JDK中的JVM虚拟机。 为什么要学习JVM? 面试过程中,经常会被问到JVM。 研发过程中,肯定会面临一些重难点问题与JVM有关系。例如&#xff1a…

【虚拟仪器Labview】习题T1-详解

目录 题目要求思路计时部分详解实现第二个部分:将X*3Y 的的结果 Z与100进行比较。全部完成 题目要求 从前面板输入两个浮点数:X,Y,计算 X*3Y 的的结果 Z,在前面板显示计算结果。并且判断 Z是否小于 100,如果 Z 小于 100,前面板中的…

《Spring》--使用application.yml特性提供多环境开发解决方案/开发/测试/线上--方案2

阿丹-有话说: 第二种多环境的配置选择解决方案,这个更加的灵活没在配置方面都选择了一种yml的书写方式。 原理: 在Spring Boot中,spring.profiles.active 属性用于指定当前应用程序应激活哪个环境配置。当Spring Boot应用启动时…

postman 之 接口请求

一、前言 1. 安装 2. 主界面 3. 请求区域 Body下主要包含以下4中格式 form-data:混合表单,支持上传文件x-www-form-urlencoded:文本表单raw:原始格式,支持JSON/XML格式(后面可选择)binary&am…

Mysql是怎么运行的(上)

文章目录 Mysql是怎么运行的Mysql处理一条语句的流程连接管理解析与优化存储引擎 基本配置配置文件系统变量状态变量字符集四种重要的字符集MySQL中的utf8和utf8mb4各级别的字符集和比较规则MySQL中字符集的转换排序规则产生的不同的排序结果 InnoDB存储引擎介绍COMPACT行格式介…

玉米浸泡液植酸吸附树脂

植酸为环己六醇六磷酸,分子量为660,植酸钠为环己六醇六磷酸钠(Na12C6H6O24P6)分子量为924。 植酸用途:在食品工业中植酸钠可用作食品添设剂,菲丁(植酸钙)可用于生产肌醇&#xff0c…

MySQL 从零开始:02 MySQL 安装

文章目录 1、下载 MySQL 安装程序2、安装 MySQL 要操作 MySQL ,首先要安装 MySQL ,本文将一步步展示如何安装 MySQL,简直详细到令人发指。 环境: 操作系统:Windows10 64位MySQL版本:社区版 8.0.11.0 1、下…

GB28181/GB35114平台LiveGBS何如添加白名单,使指定海康、大华、华为等GB28181摄像头或录像机设备可以免密接入

1、什么是GB/T28181级联 协议定义中的解释如下: 级联 cascadednetworking 两个信令安全路由网关之间按照上下级关系连接,上级中心信令控制服务器通过信令安全路由网 关可调用下级中心信令控制服务器所管辖的监控资源,下级中心信令控制服务器通过信令安全路由网 关向…

打包时,自动更新版本号,清空缓存

1.创建 addVersion.js 文件 let fs require(fs);function getPackageJson(){return JSON.parse(fs.readFileSync(./package.json)); } try{let packageJson getPackageJson();//把分割的数组项转成数字,不然拼接就是字符串拼接let arr packageJson.version.spl…

pyqt treeWidget树生成

生成treeWidget树与获取treeWidget树节点的数据 # encodingUTF-8 import sys from PyQt5.QtCore import Qt from PyQt5.QtWidgets import QApplication, QTreeWidgetItem, QLineEdit, QSpinBox, QComboBox from PyQt5.QtWidgets import QWidget from release_test import Ui_F…

Visual Studio 新特性:对 include 指令进行智能诊断

今天,我们很高兴地宣布新功能:#include 语言智能诊断。 此功能自 Visual Studio 2022 v17.9 预览版2 中可用。通过此新功能,您可以获取到有关每个 include 的引用和生成时间的详细信息,从而更好地了解 #include 指令的行为。 &g…

pgsql中epoch用法

问题描述 提示:这里描述项目中遇到的问题: 昨天又被叫回来加班,説是数据问题,又回来加班搞,到了以后发现数据没问题,那就是查询接口的事了,写查询接口的人用时间戳去查询,明明直接可以直接用日期查询,非得改成时间戳查询,结果还是有问题,接下来复盘一下…

ffmpeg写YUV420文件碰到阶梯型横线或者条纹状画面的原因和解决办法

版权声明:本文为CSDN博主「文三~」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。 原文链接:https://blog.csdn.net/asdasfdgdhh/article/details/112831581 留作备份 阶梯型横线: 条纹状画面…

x-cmd pkg | grex - 用于生成正则表达的命令行工具

目录 简介首次用户生成的正则表达式与 perl 和 rust 兼容支持 Unicode 符号友好的用户体验进一步阅读 简介 grex 是一个旨在简化创作正则表达式的复杂且繁琐任务的库和命令行程序。这个项目最初是 Devon Govett 编写的 JavaScript 工具 regexgen 的 Rust 移植。但 regexgen 在…

智数融合|低代码入局,推动工业数字化转型走"深"向"实"

当下,“数字化、智能化”已经不再是新鲜词汇。事实上,早在几年前,就有企业开始大力推动数字化转型,并持续进行了一段时间。一些业内人士甚至认为,“如今的企业数字化已经走过了成熟期,进入了深水区。” 但事…