大模型,也在卷价格

news2024/11/25 9:02:32

图片

“百模大战”已从算力战、规模战蔓延到了价格战。

5月15日,字节跳动宣布豆包主力模型(小于等于32K)在企业市场的定价只有0.0008元/千Tokens,0.8厘就能处理1500多个汉字,比行业便宜99.3%;5月21日,阿里云宣布通义千问主力模型Qwen-Long,API(编程接口)输入价格从20元/百万Tokens降至0.5元/百万tokens,直降97%;百度随后宣布文心大模型的两款主力模型 ENIRE Speed、ENIRE Lite全面免费;腾讯云5月22日发布公告称,将全面下调大模型价格,其混元-lite即日起免费……

尽管各个平台大模型的参数不一样,最终价格也不尽相同,但价格降幅均在50%以上。大模型降价意味着什么?将带来哪些影响?除了价格,大模型在商业化应用过程中还有哪些关键问题待解?

价格战背后

图片

随着各家厂商相继降价,有业内人士形容称,大模型正从“以分计价”的定价模式向“以厘计价”的时代迈进。AI大模型是出了名的烧钱行业,在其商业化之路还在探索阶段的当下,为何先打起了价格战?

“阿里云能有如此幅度的降价得益于公共云的技术红利和规模效应带来的巨大成本和性能优势。”阿里云相关负责人告诉《中国报道》记者,阿里云从模型和AI基础设施两个层面不断优化,追求推理成本和性能。

据了解,阿里云基于自研的异构芯片互联、高性能网络HPN7.0、高性能存储CPFS、人工智能平台PAI等核心技术和产品,构建了极致弹性的AI算力调度系统,结合百炼分布式推理加速引擎,大幅压缩了模型推理成本,并加快模型推理速度。

“OpenAI也在降价,试想未来大模型在人们日常生活每天都用,低价是真正广泛应用的前提。”火山引擎相关负责人说。

谈及豆包大模型定价,他指出,首先是在技术上有非常多的优化手段,把成本做低且让效果更好,比如模型结构优化调整;其次是在工程上,以前都是单机推理,现在是分布式推理,自然能把各种底层算力用得更好,进而大大降低成本,尤其是调度量非常大后能将不同负载作为混合调度,从而使成本大幅下降。

“大模型降价主要是市场、技术、政策三方面不断优化综合促成的结果。”赛迪研究院未来产业研究中心人工智能研究室主任钟新龙告诉《中国报道》记者。

钟新龙指出,从技术成本来看,随着技术的进步和优化,企业能够以更低的成本提供同样质量的服务;从规模效应来看,大模型企业在积累了足够的用户基础和数据资源后,可以通过规模效应降低单用户的服务成本;从企业内部的成本控制和优化能力来看,通过优化运营和管理流程,企业能够有效降低运营成本;从市场需求的增长和政策支持层面来看,市场需求增长和相关政策的支持落地也为价格调整提供了可能性。

影响几何?

图片

低价和免费模式进入大模型竞技场,会对相关企业和产业发展带来哪些影响?

火山引擎上述负责人表示,国内大模型现在还不是谈竞争的时候,池塘有多大鱼才多大,大模型市场才刚刚开始,当前一起把大模型做好、把应用落地做好、把成本做低,让更多用户和企业受益才是关键,现在远未到激烈的竞争。

钟新龙表示,对大模型企业而言,降价可以迅速扩大用户基础,增加市场份额。然而,降价也意味着企业收入和利润的减少,特别是对中小型企业来说,可能面临更大的生存压力和财务困境。

谈及对于行业发展的影响,钟新龙指出,降价有助于促进技术的普及和应用。首先,更低的价格让更多企业和开发者可以负担得起大模型服务,推动大模型技术在各行业的广泛应用。其次,降价带来的市场竞争也促使企业不断优化技术,提高服务质量。

钟新龙同时指出,也要关注到降价可能带来的一系列问题,如服务质量的下降、技术研发投入的减少,以及市场的无序竞争。如果在降价后,企业通过限制调用速度和任务处理量等方式来控制成本,甚至为了节约推理算力成本,故意“劣化”模型,这就是负面效果了。

“行业需要在降价的同时,保持技术创新和服务质量优化,只有这样才能实现健康持续的发展。”钟新龙说。

华龙证券研报表示,随着国内外大模型厂商技术角逐进一步激烈,大模型行业开启价格战信号明显。通过降低价格门槛,大模型厂商有望吸引更广泛的企业用户群体,从而进一步平衡收入和成本。同时,更多消费端用户有望免费使用基础AI应用,庞大的访问量有助于企业进一步提升模型服务能力,完成良性循环。

商业化应用之困待解

图片

腾讯研究院日前发布的一份报告认为,在“人工智能+”等重要政策指引下,行业大模型有望加速在传统行业落地应用,并在云智一体的基础设施支持下朝多模态、人工智能体、端侧及小型化等方向发展,更深入地嵌入各行业的工作流程中,从而促进生产力的提升。

目前,在价格之外,大模型在商业化应用过程中还有哪些关键问题需要破解?

钟新龙指出,技术适应性、数据安全、成本控制和实际业务价值等问题是大模型应用落地要逐步探索逐步解决的,毕竟企业主要聚焦的是确保大模型能真正为业务带来价值。

“在实际应用中,大模型需要针对特定领域进行优化。例如,在医疗领域,大模型需要具备深厚的医学知识才能进行准确地诊断。大模型误判如何处理,诊断精准性如何保证等,这需要通过实践来进行调试和优化。”钟新龙说。

大模型的训练和应用需要大量的数据,这些数据往往涉及企业的核心业务和用户隐私。因此,如何确保数据的安全性成为大模型商业化应用的关键问题。钟新龙建议,人工智能企业在与行业头部客户签订合同时,必须注重数据安全问题,通过严格的数据管理和加密措施,确保客户数据的安全性。此外,企业在使用大模型时,还需要遵守相关的数据保护法规,防止数据泄露和滥用。

部署和运行大模型往往需要高昂的计算资源和能耗。某些企业为了控制成本,选择部署轻量化的大模型版本,或者通过优化模型调用路径来降低计算资源的消耗。企业在降低成本的同时,如何确保大模型的性能和服务质量不受影响,在业内人士看来,这是需要在具体实践中摸索的。

大模型能否为企业带来实际的业务价值是其商业化成功的关键。钟新龙在做调研的时发现,一些制造业企业已经开始探索引入大模型进行生产优化,主要路径是通过实时数据分析和预测维护,大幅提高了生产效率和设备利用率。“但目前的问题是前期的技术整合和流程优化非常复杂,耗费了大量的时间和资源,最后效果能否达到预期很难保证。因此,实际业务价值到底如何权衡,对企业而言也是一道新命题。”

火山引擎相关负责人指出,大模型的应用场景落地,除了价格因素,一方面模型效果要好;另一方面,应用生态是群体智慧,更好的模型、更低的成本、更易落地才能繁荣生态。

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1803584.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【乐吾乐3D可视化组态编辑器】用开关控制巡检车和路灯

一、运动设备开关控制 3D组态编辑器地址:3D可视化组态 - 乐吾乐Le5le 1.在场景中新建模拟运动设备及控制面板:启动/停止 2.单击巡检车设备新建模拟动画 3.设置模拟动画属性 4.单击启动面板,新建交互事件 5.设置交互触发类型,新建…

WinForms 应用(.NET 8.0)使用ReportViewerCore.WinForms显示打印RDLC报表

在要WinForms 应用(.NET 8.0)中,显示RDLC报表,就要使用ReportViewerCore.WinForms。原来的ReportViewer只能在.NET Framework框架下运行。 1.ReportViewerCore.WinForms 程序包说明 SQL Server Reporting Services ReportViewer…

使用CodeGen进行程序综合推理

Program Synthesis with CodeGen — ROCm Blogs (amd.com) CodeGen是基于标准Transformer的自回归语言模型家族,用于程序合成,正如作者所定义的,它是一种利用输入-输出示例或自然语言描述生成解决指定问题的计算机程序的方法。 我们将测试的…

Mysql使用中的性能优化——单次插入和批量插入的性能差异

一般Mysql的客户端和服务端不在一台机器上,所以它们之间的通信需要通过网络进行。我们本次实验,希望抛开网络的影响,测试不同SQL方案在Mysql服务器上的执行效率的对比。于是我们使用“存储过程”来辅助测试。 结论 先上结论: 批…

HTML静态网页成品作业(HTML+CSS)—— 家乡南宁介绍网页(2个页面)

🎉不定期分享源码,关注不丢失哦 文章目录 一、作品介绍二、作品演示三、代码目录四、网站代码HTML部分代码 五、源码获取 一、作品介绍 🏷️本套采用HTMLCSS,未使用Javacsript代码,共有2个页面。 二、作品演示 三、代…

Git+Gitlab 远程库测试学习

Git远程仓库 1、Git远程仓库 何搭建Git远程仓库呢?我们可以借助互联网上提供的一些代码托管服务来实现 Gitee 码云是国内的一个代码托管平台,由于服务器在国内,所以相比于GitHub,码云速度会更快 码云 Gitee - 基于 Git 的代码托…

每日一题——Python实现PAT乙级1037 在霍格沃茨找零钱(举一反三+思想解读+逐步优化)

一个认为一切根源都是“自己不够强”的INTJ 个人主页:用哲学编程-CSDN博客专栏:每日一题——举一反三Python编程学习Python内置函数 Python-3.12.0文档解读 目录 我的写法 时间复杂度分析: 空间复杂度分析: 我要更强 哲学…

vivado DIAGRAM、HW_AXI

图表 描述 块设计(.bd)是在IP中创建的互连IP核的复杂系统 Vivado设计套件的集成商。Vivado IP集成器可让您创建复杂的 通过实例化和互连Vivado IP目录中的IP进行系统设计。一块 设计是一种分层设计,可以写入磁盘上的文件(.bd&…

搭建多平台比价软件你必须知道的几大知识板块

为了搭建一个多平台比价系统并使其发挥作用,你需要考虑以下几个关键的平台支持方面: 数据API采集平台: 电商平台:如亚马逊、淘宝、京东等,这些平台提供了丰富的商品信息和价格数据。旅行服务平台:如携程、…

Vue基础知识:插槽——默认插槽,插槽的后备内容,具名插槽,作用域插槽的认识与使用。(slot,#default,row的认识)

1.插槽的基本认识: 作用:让组件内部的一些结构支持自定义 插槽的分类: 1.默认插槽(组件内只能定制一处结构) 2.具名插槽(组件内可以定制多次结构) 简单而言:就是你希望封装一个…

探索教研在线平台的系统架构

教研在线平台作为一家致力于教育技术领域的企业,其系统架构扮演着至关重要的角色。本文将深入探讨教研在线平台的系统架构,从技术架构、数据架构和安全架构等方面进行分析,以期帮助读者更好地理解这一教育科技平台的运作模式。 技术架构是教研…

【Ardiuno】使用ESP32网络功能调用接口数据(图文)

接着上文连通wifi后,我们通过使用HTTPClient库进行网络相关操作,这里我们通过http协议进行接口调用。 为了简化操作,这里使用了本地服务器上的文件作为接口,正常操作时会调用接口后,将服务器返回的数据进行解析&#…

Qt 【Object::connect: No such slot 。。。】解决方法

发生如下所示问题,有三种原因造成: 1.下图中的Q_OBJECT被注释掉或者漏了(该问题不常见) 2.下图中声明slots漏了(新手较常见) 3.发生下面两行中的错误,在下面两行代码中仅仅是一个参数名字的区别…

各品牌电视安装第三方软件失败的解决方法

在安装电视第三方软件时,您可能会遇到安装失败、解析错误或无法识别文件类型等问题。以下是一些常见问题的解决方案,小武给您整理了详细的步骤来帮助解决这些问题。 手机投屏或安装方法参考如下文章: 移动端投屏到大屏幕的操作详解 通过U盘…

MySQL基础_10.约束

文章目录 第一章、约束1.1 约束的定义1.2 非空约束1.3 唯一性约束1.4 主键约束1.5 自增列1.6 外键约束1.7 CHECK约束1.8 DEFAULT约束 第一章、约束 1.1 约束的定义 约束是对表中字段的限制。 约束按照作用范围可以分为:列级约束和表级约束 列级约束:声…

一分钟学习数据安全—自主管理身份SSI加密技术

上篇介绍了SSI的架构。架构之后,我们要了解一下SSI发展的驱动力:加密技术。现代数字通信离不开数学和计算机科学,加密技术也源于此。加密技术使区块链和分布式账本得以实现,也使SSI成为可能。 以下我们就概览一下SSI基础架构中涉及…

从零开始实现自己的串口调试助手(9)-重置多文本框,保存/载入指令集

重置多文本框 添加多文本控件列表 在构造函数中把我们需要操作的控件归类到对应列表之中 //创建多文本存放数组 - 存放那三列内容 checkBox lineEdi btnfor(int i1;i<9;i){// 添加到按钮数组QString btnName QString("pushButton_t%1").arg(i); //构建对应控件名…

【病理数据】svs格式数据解读

Openslide 病理图像通常以.svs格式存储在数据库中。要想使用python处理svs格式的图像&#xff0c;我们通常使用Openslide模块。 关于Openslide模块的安装详见这个博客&#xff1a; 【解决Error】ModuleNotFoundError: No module named ‘openslide‘ 病理图像数据结构 病理图…

Java开发-面试题-0004-HashMap 和 Hashtable的区别

Java开发-面试题-0004-HashMap 和 Hashtable的区别 更多内容欢迎关注我&#xff08;持续更新中&#xff0c;欢迎Star✨&#xff09; Github&#xff1a;CodeZeng1998/Java-Developer-Work-Note 技术公众号&#xff1a;CodeZeng1998&#xff08;纯纯技术文&#xff09; 生活…

FuTalk设计周刊-Vol.041

&#x1f525;AI漫谈 热点捕手 1、国产GPTs来了&#xff0c;基于智谱第4代大模型 全自研第四代基座大模型GLM-4&#xff0c;且所有更新迭代的能力全量上线。GLM-4性能相比GLM-3提升60%&#xff0c;逼近GPT-4&#xff08;11月6日最新版本效果&#xff09;。而同时推出的GLM-4-…