在AI大模型时代遨游,你不得不知道的一些事

news2024/10/12 5:41:15

用户到底为什么而买单/产品和研发要抛弃的历史包袱

06f5a8a3a599549e9abb4cd6ef9c8655.jpeg

在大模型时代之前,其实企业和企业之间的软件产品壁垒来自两个地方:

  1. 交互,让用户用起来感觉舒服。

  2. 打磨,我花了五年修复了用户遇到的一万个bug,所以我的产品比你好。

但是无论如何,你很难构建技术壁垒。非你加产品不可的情况几乎只是梦里的事情。但是大模型时代的应用产品,是可以做到的,效果好到用户压根离不开,其他企业则可能和你至少有三个月或者半年的差距,用户别无选择。

所以产品不要只想着交互,研发不要只想着所谓打磨,有非常多的机会你可以做出别人做不出的效果,而效果在AI时代,才是让用户 wow 的东西。

什么叫 llm-native 应用

e8a338f3b6f8d6ce7679083872cbcca0.jpeg

llm-native,就是充分挖掘大模型的,以大模型为全流程驱动,就像当年数据库之于web。

应用到底能不能做厚

cdc502edd91c7167adadcc68d5a1547c.jpeg

很多人看到我这句话,其实并没有理解这句话的含义。inference scaling 是应用层继续做厚的起点,同样的模型,可能最终效果差异会很大。这在之前是不太现实的。现在对大模型应用就是“包了Prompt 的代码” 想法的人还大有人在,在之前确实你很难做出差异,但是现在可以了。inference scaling就是天然留给应用层的模型扩展点。

推理到底是变快了还是变慢了

ea360a732bf769a6d12adecc64a17ca7.jpeg

很多人无法理解这句话,无论硬件还是推理软件都是越来越快的牙。

推理提升的速度一定架不住需求的复杂度上升 需要有这个认知 这事就通了。所谓需求,实际上是用户需要更大的输入,更好的输出效果,要达成这个目标,目前要么继续加大参数,要么在推理时消耗更多token(更多思考),这些会进一步增加了窗口大小,显存使用以及计算量。需求永远都是比现有效果要高很多的,所以虽然推理的速度在提升,但提升速度会远不如人们对效果的需求,这种失衡的结果就是,大家感觉有大模型的应用越来越慢了。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2207135.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

如何使用flutter doctor命令检测环境是否配置成功

Flutter Windows Android环境搭建 真机调试学习地址: 17 Flutter介绍-Flutter Windows Android环境搭建 真机调试 如何使用flutter doctor命令检测环境是否配置成功,详细步骤如下: 第一次执行可能会提示下面错误: 1、错误一&am…

建站:腾讯云+宝塔linux+xftp

1.首先,控制台,服务器 2.服务器-网络与域名-ip地址,能看到公网地址 3.宝塔Linux面板-网站-添加站点 4.填写域名会自动生成 ftp 帐号密码 域名可以加上端口,端口号可以写大点 5.xftp新建会话 主机地址:腾讯云拿到的公…

直流有刷电机驱动芯片:【TOSHIBA:TB6612】

Toshiba TB6612是是东芝半导体的一款驱动电机的IC。一个TB6612FNG可以驱动两个电机,每一个驱动都有两个逻辑输入引脚,一个输出引脚和一个PWM引脚。可以通过给两个逻辑输入引脚不同的电平来控制电机的运行状态,通过PWM输入引脚实现电机调速。 …

怎么看待数字化转型是大势所趋?

怎么看到数字化转型是大势所趋?下面我结合最新数据给大家讲明白这个事。 近日,我通过大量的数据相关性分析,有了一些关键发现。 【数字化转型】之所以势在必行,主要是因为数字化转型为各个国家数字经济发展提供了重要的参考依据。…

R2:RNN-心脏病预测

🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者:K同学啊 一、实验目的: 本地读取并加载数据。了解循环神经网络(RNN)的构建过程测试集accuracy到达87% 拔高:测试集accur…

腾讯云Android 相关

集成遇到异常怎么办? 您可以使用 armeabi 和 armeabi-v7a 架构。 如上图所示,请在app的 build.gradle 中指定 abiFilters 为“armeabi”。 功能模块升级后,短视频 SDK 的功能不能使用? 1. 如果使用的是 androidstudio&#xff0…

2024Selenium自动化常见问题!

"NoSuchElementException"异常: 确保使用了正确的选择器来定位元素。可以使用id、class、XPath或CSS选择器等。 可以尝试使用find_elements方法来查找元素列表,并检查列表的长度来判断元素是否存在。 使用显式等待(WebDriverWait…

考研编程:10.11 回文数 水仙花 生成一定范围内的随机数 求二叉树宽度

回文数 #include <stdio.h>int main(){int a,b,c0,sum;scanf("%d",&a);ba;while(b!0){c b%10 c*10;b b/10;}if(ca){printf("yes");}return 0; } 水仙花 #include <stdio.h> #include <math.h> int main(){int a,b,c0,sum;scan…

内嵌服务器Netty Http Server

内嵌式服务器不需要我们单独部署&#xff0c;列如SpringBoot默认内嵌服务器Tomcat,它运行在服务内部。使用Netty 编写一个 Http 服务器的程序&#xff0c;类似SpringMvc处理http请求那样。举例&#xff1a;xxl-job项目的核心包没有SpringMvc的Controller层&#xff0c;客户端却…

css多层嵌套折叠

<!DOCTYPE html> <html lang"zh"><head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><title>美观的纯 CSS 折叠列表</title><style>b…

如何使用Python爬虫处理JavaScript动态加载的内容?

JavaScript已经成为构建动态网页内容的关键技术。这种动态性为用户带来了丰富的交互体验&#xff0c;但同时也给爬虫开发者带来了挑战。传统的基于静态内容的爬虫技术往往无法直接获取这些动态加载的数据。本文将探讨如何使用Python来处理JavaScript动态加载的内容&#xff0c;…

值类型和引用类型的使用

using System; using System.Collections.Generic; using System.Linq; using System.Text; using System.Threading.Tasks;namespace ConsoleApp1 {class Program{static void Main(string[] args){/****值类型****/bool test;//必须赋值,否则报错test true;Console.WriteLin…

修改svg图片颜色(结合sass)

1.下载sass npm install sass -gnpm install --save-dev sass-loader 我使用的版本 2.使用步骤 1.新建style文件夹&#xff0c;以及新建variable.scss&#xff0c;mixin.scss&#xff0c;main.scss 2.variable.scss $color_1:#50E3C2; $color_2:#FFF; 3.mixin.scss char…

大规模出海!新松移动机器人大批量进驻欧洲本土新能源市场

秋日的沈阳&#xff0c;天空高远而湛蓝。曙光下的新松智慧园&#xff0c;百余台移动机器人在车间内整齐列阵、蓄势待发&#xff0c;等待着最后的检验与封装&#xff0c;即将横跨千山万水远赴欧洲大地&#xff0c;开启中国移动机器人大规模进驻欧洲本土新能源市场的崭新篇章&…

2022年黄河流域旅游资源空间分布数据(shp)

数据介绍 黄河是中华民族的母亲河。黄河流域旅游资源丰富且极具特色。黄河流域旅游资源空间分布数据是黄河流域旅游资源开发与决策的基础。本数据集以县&#xff08;区&#xff09;域行政边界为单元、以国家旅游资源分类标准为依据&#xff0c;收集整理了黄河流域各县&#xf…

STM32-DMA直接存储器存取

一、概述 DMA&#xff08;Direct Memory Access&#xff09;直接存储器存取 DMA可以提供外设和存储器或者存储器和存储器之间的高速数据传输&#xff0c;无须CPU干预&#xff0c;节省了CPU的资源12个独立可配置的通道&#xff1a;DMA1(7个通道)&#xff0c;DMA2&#xff08;5…

【自动化】Java Access Bridge 使用说明

【自动化】Java Access Bridge 使用说明 Java Access Bridge是一项在Microsoft Windows动态链接库(DLL)中公开Java Accessibility API的技术,使实现Java Accessibility API的 Java应用程序对Microsoft Windows系统上的辅助技术可见。 开启jab服务 1 、首先获取java版本信…

【自用视频笔记】25计算机基础综合408大纲新增考点 多处理机调度

文章目录 多处理机调度指标及性能多处理器分类&#xff1a;性能指标 调度的评价指标进程分配方式&#xff1a;静态分配和动态分配、进程的调度&#xff1a;通常采用FCFS 线程调度方式多处理机调度评价指标 25计算机基础综合 多处理机原视频1 多处理机原视频2 多处理机调度 先…

电子产品做高温老化性能测试可行性方案

1.1引言 1.2背景 1.3目的 2.系统概述 2.1 系统架构 2.2 功能模块 3. 接口 3.1硬件接口 3.3. 通信接口 3.4 软件接口 3.5 数据存储和处理 4. 功能需求 4.1 数据采集 4.1.1 采集和监控数据 4.2 实时监测和显示 4.2.1 实时显示电流电压曲线图 4.3…

打包上线不确定接口IP以及端口 如何处理

前言 本文主要讲述如何在vue项目打包后动态修改请求服务器接口的ip和端口的修改&#xff0c;其他的配置可参考此方法进行。 在Vue项目中一般都将配置文件写在 .env.development / .env.production 文件当中&#xff0c;但是如果仅仅是因为修改配置文件又重新打包一次就会很繁琐…