政企市场,「观望」AI大模型

news2024/11/24 11:44:57

数据安全等“刚需”下,私有化成为政企市场的准入门槛,然而私有化下,行业模型局限性尚未可知,加之信创化等因素,厂商仍需取长补短,为政企客户提供全方位的解决方案。

作者|斗斗

编辑|皮爷

出品|产业家

政企领域,似乎正在成为AI落地的又一标的。 

几个最新的动态是:新华三针对政企客户发布私域大模型“百业灵犀”LinSeer、中国电科发布专为党政企行业用户服务的AIGC大模型“小可”、百应科技发布政务行业专有大模型“万机”……百度智能云、阿里云、三六零、科大讯飞、商汤等也都在针对政企客户,发布了相关产品和解决方案。 

这一趋势同样发生在海外。有消息称微软正在使用其 Azure 云服务把 OpenAI 的强大的语言生成模型引入政府机构,这些模型包括 OpenAI 最新、最先进的大型语言模型(LLM)GPT-4以及 GPT-3。 

然而,从国内发布政企大模型的各大厂商的动作来看,并未有较多的落地案例。背后的原因有很多,一是产品发布时间短,无法及时得到较大反馈;二是由大模型引起的AI热潮还处于爆发期,政企对于合作厂商的选择还需考量。 

除了这些因素之外,几个关键的问题是,这些厂商针对政企客户发布的AI产品,真的是政企所需要的吗?再或者,于政企而言,其需要什么样的AI产品与服务? 

政企市场,“观望”AI 

“我们接触的客户都在探索这方面的内容,政企会有这方面的诉求。”某业内人士告诉产业家,“但对于AI大模型在政企领域的应用,大家都处于观望+探索的阶段。” 

在国内,政企普遍体量大、业务复杂、定制化要求高,有着沉重的IT建设包袱,各部门、业务之间难以协同,数据壁垒也难以打破,这使得政企的数字化转型困难重重。 

而大模型可以把人与人、人与机器之间的交互过程数据完整的沉淀下来,让它自主学习进步,持续演进。杜绝了过去的烟囱式建设,降本增效的同时还能推动政企数字化进程。 

这种技术应用的趋势,推动着诸多厂商开始将自身的TOG产品与大模型结合。 

不过客观来看,当下虽然深耕AI产业链的玩家众多,但在政企领域,出于对算力、行业专业度、数据安全、国产化等各方因素的考量,厂商难以给出合适的AI解决方案。 

AI大模型作为数字化的新基建,如何赋能行业仍需不断探索、实践。很多企业也在不断进行新的尝试。 

周鸿祎曾在微博上发文表示,“大型企业或者政府要私有化大模型。即在加入公有GPT知识和能力的基础上,再训练一个私有的GPT,只给企业自己或客户使用。” 

与周鸿祎有相同见解的,还有新华三安全产品研发总监韩小平。 

“政企大模型一方面数据不能出域;一方面需要结合其业务场景数据进行喂养训练,生成实际的业务场景App。” 

他认为,政企大模型技术本身其实不是唯一考量的因素,更重要的是对用户业务的理解。政企AI服务,行业Know-how仍是关键,没有政企业务服务经验的厂商,难以结合大模型设计出个性化的解决方案。 

两人都将政企AI大模型的落地方式瞄准了私有化。 

私有化,会是一个好的选择吗? 

“全面禁止使用ChatGPT”这句话时不时就会喜提科技榜热搜,最近一次的主角是三星。 

具体源于三星允许半导体部门的工程师使用ChatGPT参与修复源代码问题。 但在过程当中,员工们输入了机密数据,包括新程序的源代码本体、与硬件相关的内部会议记录等数据。 

起初三星全面禁止使用ChatGPT,自3月11日开始才部分开放给DS部门使用,却没想到在短短时间内就传出机密外泄。 

诸如此类机密数据泄漏事件,层出不穷。 

在海外市场,苹果、三星、摩根大通、花旗银行等知名企业都曾明确表示,禁止或限制员工在工作场合使用ChatGPT等大模型产品。 

事实上,大模型的底层逻辑是将行业数据标注出来进行深度学习,训练出专注于某一行业的垂直模型。这也意味着,企业的数据要集成到通用大模型的数据池中。 

然而,政企的数据大多涉及商业机密、个人隐私等问题,对数据安全要求甚高。 

所以,数据不出域,成为关键。而私有大模型无疑是政企的必选项。 

不过,私有化意味着需要政企客户自己收集数据进行训练。一般情况下,AI决策的及时性和准确性,取决于数据质量、数量以及算力。这意味着输入预训练模型的数据维度、数量越多,质量越高,才能真正发挥大模型真正价值。 

一个有争议的点是,专业厂商打造的私有模型,比起通用大模型的能力,能否满足政企需求。 

3月30日,彭博社创始人布隆伯格发布了一片论文,即BloombergGPT: A Large Language Model for Finance。 

在论文中,介绍了其以模3630亿token的金融领域数据集以及3450亿token的通用数据集训练出来的金融大语言模型。并进行金融领域评估与通用领域评估。 

结果显示,在金融领域任务上,该模型综合表现最好;在通用任务上,该模型的综合得分同样优于相同参数量级的其他模型,并且在某些任务上的得分要高于参数量更大的模型。 

这意味着,基于专业领域语料训练的大模型,在领域内的理解要超过通用大模型。 

一个启示是,在其他特定领域,也可以开发专用的大语言模型,并且效果可能比通用大模型更好。 

然而,这个评估实验的结论仍无法代表所有行业,有些问题仍需要被正视,例如中外金融数据维度、质量其实有着较大的差距,该金融模型作为第一个行业模型,更换不同维度、质量的数据,能否保持其结论的准确性,还未得知。 

另外,除政务系统、城市大脑以及金融等数据敏感的政企场景,其他终端场景,通用大模型的语料数据仍有很大优势。 

所以,对于政企而言,其需要的AI服务是能在保证数据安全的同时,还可以能集成通用大模型作为能力补充。 

政企大模型,亦需“群战” 

术业有专攻,大模型能力同样如此。 

在政务AI大模型应用方面,周鸿祎曾直言,预测未来中国不会只有一个大模型,每个城市、每个政府部门都会有自己的专有大模型。 

信创化的浪潮下,全技术栈的国产化已经成为服务政企客户的准入门槛。所以对于政企而言,信创生态能力成为其选择厂商的重要标准。 

目前来看,能实现全技术栈国产化的AI大模型厂商屈指可数。能否吸引更多信创伙伴成为关键,取长补短,或将实现双赢。 

此外,在国产化的基础上,不同的场景应用,也需要与不同的厂商合作,例如互联网云厂商在终端软件应用的优势;运营商的网络优势;华为在芯片、系统上的优势。 

除了基于客户需求的合作,还有来自算力等资源稀缺所带来的压力。 

AI新一轮热潮袭来,服务器需要配备大量GPU/NPU/FPGA/ASIC等芯片以支持高算力,但就目前来看,算力不仅价格高昂且资源紧张。 

目前,支撑包括ChatGPT大模型在内的95%用于机器学习的芯片都是英伟达的A100(或者国内使用的替代产品A800),该芯片的单价超过1万美元。此外,英伟达最新一代的H100芯片的性能也远超A100,但价格也更高,约合25万元人民币。 

而在取长补短的AI大模型产业生态下,将大幅度杜绝模型的重复搭建、实现数据的重复利用,大大节约算力资源利用率。同时还可以减少政企客户的AI部署成本。 

所以,对于布局政企大模型的厂商而言,在私有化的前提下,通过开源、API接口等形式,以通用大模型和客户或自身集成的数据,帮助客户调教模型,形成定制化的AI产品,或将推动政企大模型快速落地。 

一些厂商也正在验证了这种路径的可行性。 

例如中国电科面向党政企,提供“通用智能模型大循环 + 行业智能模型小循环”双循环、“模型训练 + 测试评估 + 场景精调 + 可信增强”四阶段的行业应用新范式。 

再比如,新华三面向政企发布的百业灵犀LinSeer既支持“私域大模型+新华三ICT基础架构”的模式保障数据安全,也支持“客户自选大模型+新华三ICT基础架构”的模式满足多种需求。 

政企AI服务的走向逐渐清晰,即政企或许更需要“自助餐”式的服务模式。客户可以选择适合自身需求的芯片、模型技术方、数据集成方、软件厂商等。 

经历过多次寒冬的AI,能否抓住这次时代的机遇,仍需时间来验证。 

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/650495.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

采用UWB定位技术开发的室内定位系统源码

UWB精准定位系统源码 UWB是什么? UWB(Ultra Wideband)超宽带技术是一种全新的、与传统通信技术有极大差异的通信新技术。它不需要使用传统通信体制中的载波,而是通过发送和接收具有纳秒或纳秒级以下的极窄脉冲来传输数据,实现精准定位。 技术…

一名高水平的程序员,为什么面试总是失败?

目录 场景1 场景2 场景3 1 从发现和分析问题方面准备。 2 从linux命令和日志层面分析问题的步骤。 1 事先准备很重要 2 面试开始是自我介绍,这时要表露出,自己解决过redis,dubbo等组件的线上问题 3 一旦开始说第一个组件层面解决过的问题时&…

Django高级扩展之文件上传

文件上传是一个比较常用的网站功能,在服务器端,Django会使用一个叫作request.FILES的对象来处理上传的文件。 目录 存储路径 创建存储目录 配置settings.py 上传单文件 配置url 上传文件模板 视图方法 显示上传页面 上传文件处理 上传效果 1.…

盘点五种最常见加密算法!

大家好,我是Martin。 今天,就给大家来盘点一下最常见的5种加密算法。 大家平时的工作中,可能也在很多地方用到了加密、解密,比如: 用户的密码不能明文存储,要存储加密后的密文 用户的银行卡号、身份证号…

2024年天津农学院专升本专业课参考书目

天津农学院2024年高职升本科拟招生专业参考书目 天津农学院专升本专业课参考教材(我校不提供专业课参考教材) 人力资源管理专业参考教材: 1、《人力资源管理实用教程》 (第2版),吴宝华,北京大学出版社 2、《人力资源…

运维(SRE)成长之路-第3天 文本处理三剑客之 grep

1.命令作用以及参数详解 grep: 全局搜索正则表达式并打印行(Global search REgular expression and Print out the line)作用:文本搜索工具,根据用户指定的“模式”对目标文本逐行进行匹配检查;打印匹配到的行模式:由正则表达式字…

GitHub Copilot 最全安装、使用

GitHub Copilot 最全安装、使用教程 一、温馨提示 GitHub Copilot 目前为止可以免费试用一个月,但是试用的前提是必须要绑定银行卡,因为后续会自动扣费,所以请注意试用结束日期,自己定好闹钟关闭订阅。 订阅价格为每月10美刀&a…

【Pinia 状态管理篇】Vite + Vue3 组合式 API 模式下的 Store 数据处理

文章目录 Pinia 状态管理一、 Pinia 安装与使用1.1 安装1.2 注册 pinia 实例到全局1.3 创建一个 Store1.4 组件内使用 Store 二、Pinia 核心概念展开学习Store 的定义和使用2.1 State2.2 Getter2.3 Action 附:1. 什么是魔法字符串? Pinia 状态管理 一、 …

Nacos配置中心使用(Spring Cloud版)

目标 向项目中集成Nacos配置。原项目是一个SpringBoot项目。这里假设我们无法修改原有项目的SpringBoot版本。 注意 在不动SpringBoot版本的前提下,根据SpringBoot的版本,确定Spring Cloud和Nacos版本。Nacos版本其实就是Spring Cloud Alibaba版本。在…

【Linux】网络结构模式

目录 网络结构模式C/S结构B/S结构 MAC地址IP地址端口网络模型OSI七层模型TCP/IP四层模型 通信过程数据包封装协议以太网协议ARP协议IP数据报格式UDP协议格式TCP协议格式封装分用TCP详解TCP和UDPTCP通信流程TCP三次握手 网络结构模式 C/S结构 客户机-服务器(client-server)结构…

uboot读取adc,通过cmdline传给kernel解析数值,不同硬件模块进行处理

uboot读取adc,通过cmdline传给kernel解析数值,不同硬件模块进行处理 uboot开发,要想读取adc在哪个时间点读取以及如何传给cmdline,需要清楚2点, uboot启动得大致流程及相关启动功能,uboot各个硬件模块得接…

主机安全各个方面应该怎么做?

主机安全是指保护主机系统不受恶意攻击和未经授权访问的威胁,以保证系统的稳定性、可用性和数据的安全性。 以下是主机安全涉及的几个方面做法: 1. 操作系统安全:安装操作系统时需要选择合适的版本,及时打补丁更新,配置…

入职Linux驱动工程师后,我才知道的真相…

大家好,我是ST。 做Linux驱动工程师也有一段时间了,今天分享一下我曾经入职才知道的一些事情,算是一个菜鸟的经历吧! 设备树 起初学习Linux驱动,是从最简单的一个.c文件开始。 在.c中实现module_init和module_exit这…

大模型入门(三)—— 大模型的训练方法

参考hugging face的文档介绍:https://huggingface.co/docs/transformers/perf_train_gpu_many#naive-model-parallelism-vertical-and-pipeline-parallelism,以下介绍聚焦在pytorch的实现上。 随着现在的模型越来越大,训练数据越来越多时&…

基于Ubuntu22.10系统安装部署webmin软件

Webmin是一个用于Linux系统管理的开源的基于web的系统管理配置工具。有了这个工具的帮助,我们可以管理内部的系统配置,诸如设置用户账户,磁盘配额,像Apache, DNS, PHP, MySQL,文件共享的服务等。 本文描述在ubuntu22.…

VS+C#+WPF多线程视频摄像头播放器监控

程序示例精选 C#WPF多线程视频摄像头播放器监控 如需安装运行环境或远程调试&#xff0c;见文章底部个人QQ名片&#xff0c;由专业技术人员远程协助&#xff01; 前言 这篇博客针对<<C#WPF多线程视频摄像头播放器监控>>编写代码&#xff0c;代码整洁&#xff0c;规…

el-table点击单元格变成输入框,以及其自动获取焦点失效可能的原因(focus失效)

1.el-table点击单元格变成输入框 这里主要使用了el-table三个自带的方法/属性&#xff1a; <el-table:data"MesTableData"bordercell-click"clickCell":row-class-name"tableRowClassName":cell-class-name"tableCellClassName" …

解决elementUI弹出框关闭后再打开el-select下拉框无法选中的问题

文章目录 一、问题描述&#xff1a;二、问题解决 一、问题描述&#xff1a; 使用的前端UI框架为elementUI。 el-select组件在一个弹框中&#xff0c;打开该弹框&#xff0c;el-select可以正常选中&#xff0c;但是保存弹框中的表单信息关闭弹框后&#xff0c;再打开弹框&…

RT-DETR论文解读与代码

1.概述 目前以大名鼎鼎的YOLO为代表的基于CNN的实时监测网络需要NMS进行后处理&#xff0c;导致不能很好的优化网络&#xff0c;并且网络不够健壮&#xff0c;从而导致检测器的推理速度出现延迟。研究者也分析了Anchor-based和Anchor-free的YOLO的性能&#xff0c;发现Anchor并…

【Java基础篇】方法的使用(方法的重载和递归)

作者简介&#xff1a; 辭七七&#xff0c;目前大一&#xff0c;正在学习C/C&#xff0c;Java&#xff0c;Python等 作者主页&#xff1a; 七七的个人主页 文章收录专栏&#xff1a;Java.SE&#xff0c;本专栏主要讲解运算符&#xff0c;程序逻辑控制&#xff0c;方法的使用&…