AI落地不容乐观-从神话到现实

开篇

在这儿我不是给大家泼冷水，而是我们一起来看一下从2022年11月左右GPT3.0掀起了一股“AI狂潮”后到现在，AI在商用、工业、军用下到底有没有得到了大规模应用呢？

这个答案每一个参与者其实心里有数那就是：没有。

但是呢它的确在一些方面如：对于个人的赋能让一个只会单一技能的人快速的变成1专多能的超级个体或者是让一个人短时间内迅速掌握了另外多个技巧上作出了显著的贡献。

如我在前一篇《ChatGPT让我变成了“超人”》中所述，在2023年我们有实验性质的使用GPT可以让一个中级的程序员兼顾具备了：3年PS经验、7年专业文案爆文写手能力、具备3门开发语言并且实际工作中比原来多个角色配合才能完成的事务并且耗时比原本多人多角色配合缩短了300%。

这不是神话，这已经越来越广泛的发生成了各个使用AI的企业员工的身上了。所以AI可以为个人赋能、打造超级个体这个话题已经不需要再次证明了。

同时，AI可以为企业内某个职能部门赋能打造超级团队甚至一个小而精的“超级团队”超过千人、万人的公司也已经不是神话，这样的事也一再的发生在业界。

往往10个人的团队超过一支100人团队屡屡发生，这种就叫超级公司。

但是我们回过头来，AI需要颠覆业界大规模的产生“第四次工业革命”，这似乎仅存在于“命题”和“理论”中，因为它的确到写这篇文章为止，还没有发生。

这也是目前业界最头疼的一件事，有人把现在AI的现状总结成这么几句顺口溜以表达AI落地之难：

AI超级酷，AI超级秀；
个人能力被升级；
硬件厂商乐开颜；
企业落地看不到；
搭个环境超级贵；
企业看着挺喜欢，一到掏钱就没有；
AI到底能干什么？AI之路无尽头！

的确说出了现在AI落地的难处。

AI落地之难

试图打造超级公司结果发现“超级公司没成，成本超级贵”

说，一些企业内的员工通过AI的确打造了不少超级个体，于是企业想着如何把企业也能打造成为“超级公司”？

于是就做项目吧。

于是发生了：

哇，GPU好贵，这比原来做一个项目的total费用都贵；

哇，实施AI的人天好贵；

做完一个POC后，老板说了：这不就一聊天吗？我花7位数造个聊天解决的是快速聊天的功能不如每个人一个月多发300块钱你们把这钱用在自己使用AI工具的“算力Token开销费”然后产出比这个更好的工作交付物这样做不挺好，我为什么要去做一个项目呢？

以上是一种场景。

试图依葫芦画瓢、发觉没有任何葫芦可画

另一种试图找到同类型企业、业务是否有过AI落地。结果找了小半年，发觉。。。一个案例都没有。

大家想一下，目前对于AI的宣传大家停留在怎么样的一个认知呢？

AI画图-己发生，但是对使用者的技巧以及作图上的成本还是太贵无法普及（我指真正的批量可以生成营销类文案可用图片）；
短视频（基本都在王婆卖瓜），无论是时长还是质量还是成本上根本达不到商用普及化；
写代码，这个只能赋能个人，co-pilot和cursor已经天下无敌了不可能有第3、第4家作的比他们再好了；
AI写文章，这块对写爆文的人的能力及使用者还是有一定要求的。本身能够用AI写出爆文的人就算没有AI，他要出一篇爆文的速度最多就是慢一点，只是有了AI后这个人变成一天出一篇爆文的速度，那么以速度来做“不对称降维打击”这个是的确没有人可以竞争得过；
AI聊天、解答（这对于现阶段企业或者是一些营销来说应该属于锦上添花、可有可无的）、问答；

AI可以进一步使用在哪些方面呢？我们来看

完全无人驾驶（兄弟，性命的事，不要开玩笑），因此这只属于概念验证，有时概念验证到普及虽然只有“一”步，这个“一”恐怕得要数十年来完成；
核工业（哈哈哈哈，这不是性命的事而是好多性命的事了），太SCI-FI了；
军工，这还不如直接去看终结者；
自动化工业领域如：自动扫地机器人、自动楼宇清洁，它的成本还是降不下来，同时也有一定“危险性”；
金融保险财务相关，这块目前全人类都对AI数据安全持严重怀疑，这不是技术可不可以做到的问题而在于道德和人们的戒心是否足够放得下，这比技术领域还难，10年内不可能有落地；
医疗，这又是性命相关的领域；

所以我们可以看到，留给现阶段AI可用武之地，只有那些“锦上添花”的余地了。

那么锦上添花就是可有可无，如果一定要有那么希望它便宜。

这正是AI当前落地最难的点。

一些AI生态因素造成了AI落地难上加难

上面说的一些是AI在其当前可落地场景中的难点，但是还有一块因素加剧了AI落地的难。就是市场生态因素。

什么叫市场生态因素呢？那就是当一个事物很火热时，围绕着它的卖铲子的势必增多。有时淘金没有淘到卖铲子的发了财经常发生，这不是什么稀奇的事。

拿显卡一事来举例

我们在学习或者说是在做AI相关落地时会伴有很多小模型。

行为识别
意识识别
语音识别（4O这块实时性和成本远未到达商用）
视频识别（其实是视频转图片帧再识别）
AI执行（LLM输出可执行指令）
图片的修剪、抠图
图片去除背景、水印、画质修复
文生语音
文生图

以上这些AI原生应用中的常见功能都不是一个LLM或者是一个MAAS可以统包统揽可以独自解决的，往往我们在实施时会穿插着使用3-5个各种小模型。

而这种小模型在使用都需要使用到GPU显卡。

你没有GPU其实也可以实现，只是做出来的交付物速度很慢无法满足企业级应用。

什么叫满足企业应用要求呢？我在前一篇文章《大模型产品层出不穷，如何慧眼识珠》提到了决定LLM性能的核心指标之一的“每秒输出Token数”。

什么样的显卡无法用于AI类开发？

1秒输出Token数<20（1个汉字大约在2.5Token左右），这样的显卡基本是连开发都用不了。

怎么样的显卡算“可用”？

1秒至少应该在100Token输出能力

我们看下面这个图，我给大家一个指标，大家去对就知道哪块显卡你可用来平时开发甚至是企业内部部门级别用了。

对比指标：CUDA核心数1,500约等于1秒输出20个Token数。

通过这个指标我们发觉RTX 4070 SUPER及以上都可以用，当然，4090D太贵了（这也只是对个人来说）。但对于企业来说这属于完全可以接受。

因为，比较一个月3-5万的云主机收费来说，的确4090是便宜太多了，而且是一次性投入。

比如说：

4070 SUPER，￥5,000-￥6,000的均价；
4080大约在￥1万5左右；
4090贵一点，￥2万；

但这些成本都属于“可忍受”。

同样的参数，我们把它换成云主机，我们可以看各官网报价即可了解一切信息。

试想：一次性投入3万（要好好学点AI，自己开发点可以用的东西，又可以让企业百人规模可用）和每个月持续的投入几万对比，你会怎么选择？

一个事物火了，它周边的一切都会跟着火。所谓一人得道、鸡犬升天。。。不过现在比较尴尬的是：人还在修行过程中呢。。。

主要是尴尬在这。

硬件的贵，让很多创业公司负担太重。更不要说一系列的其它的改造、实施、二开以及为了满足AI相关合规性做出的很多的开发工作。

成本真心高昂。

因此，经过了1年多来的“卷”，大都AI创业公司开始“望洋兴叹”了。

人员成本的问题也极大了阻挠了AI在企业中的落地

一个企业无论是自己开发项目或者是采购+二开，都会面临着：AI实施团队太贵了一说。

确实，就像我们前文所写的那样。当一件事物红火起来后围张着它的周边一系列的其它的事物会比这件事物本身还要红。

但实际真的很贵吗？

这里面多少还是有一些“炒”的问题存在的。

我们说企业实施AI需要什么样的人员呢？

我在前文AI不应该贵中也已经提到过了，一个企业在选择AI实施时需要定位好自己的业务边界。坚持使用LLM使用MAAS、辅促以一些小模型并坚持AI原生应用这一架构理念。

看似很高大上（贵）其实不然。

AI的应用无非就和以前开发中台类项目一样，也是使用了一堆中间件、SPRING BOOT、ES、MQ、REDIS什么的一样，只不过大都数人还没有这么一个“熟悉”的过程。一旦熟悉了，这些技术都不称为技术，也只能称为是“技能”。不要把“新鲜”的都往贵了卖，这不可持续。

无非是把REDIS、MQ、ES这种换成了paddle、nlu、chatglm、和一系列小模型的使用而己，并没有那么神秘。

关键重要的点人们还是忽略了，那就是业务逻辑与核心。你的企业到底希望AI拿来解决什么方面的问题？

这个问题如果回答不清，你请一堆的博士后也是白搭，这个项目也是实施失败的。

这一点很像之前“大数据”、“数据中台”的昙花一现的现象，或者可以说是一模一样。

这种现象是不符合可持续发展的。

各种阻碍重重、企业AI要落地如何破局

这篇博客不仅仅是写给AI创业公司看的，更是写给那些希望AI在本企业、本业务条线切实落地的企业管理者们看的。

眼下我们有三大困局：

AI到底是不是只是一个锦上添花的东西，它可有可无？
硬件贵怎么办，小公司负担不起？
AI开发人员贵怎么办，小公司负担不起？

其实就是这三个困局，必须一起击破才可以破局。

AI不应精贵、AI不是贵族、AI必须普惠大众，那么如何破局呢？

我们逐一拆解。

解决三大困局

解决AI非刚需只能锦上添花的局面

我们在实施AI时不能只看其各种电视、TV、广告Show，各种Show时厂商调集所有算力为了满足这5-10分钟Show是没有任何问题的。你看时眼花缭乱、行云流水，而到了你自己实际在使用时，每秒的Token输出数直接决定了这个项目的成败。

我们算中文平均一个字=2.5Token，1秒钟输出20个Token根本是没法用的。

因此TV广告Show时出图极快、而且还是高清图那不代表你用时也能到达这个体验。就算你可以到达这个图、这个视频的质量你的系统的响应速度也到达不了。

相信大多入过坑的创业公司或者是落地AI的企业都深有感受这句话：看广告时激动人心，实际自己在生产环境：http connection timeout everytime。

所以AI不是拿来炫和Show的，而是真正用它来解决问题的。

解决一个什么问题呢？

现阶段AI和2000年初互联网公司一样，它初于一个“启蒙期”，在启蒙期一定不是大规模业务应用，一定是“基建先行”。

基建年代不可能大规模建设，这就是目前AI无法成为企业、成为业务刚需的核心问题。

换一种说法：你说增加额外的产值、通过引流。。。我前几篇博文已经讲了很清楚了。现在我们讲究的是“可持续的小增量”，已经没有人相信“流量”这种东西了。

于是我们应该来想着这么一件事：如何用AI去解决那些重复的、无价值的、不产生性命危险、不因为当下全世界对数据安全的认识还不够的情况下去触碰财务、金融、保险但又可以让AI去做的那些事。

其实我们再把上面这件事说得再白一些，即一个AI项目要成为刚需必须具备：

原来需要一群月薪老老高的大牛，在一个月里可以做出来的事。用了AI可以用一堆菜鸟在1周内就可以完成同样质量的事。

于是，就有了这么一个公式，你的业务如果用AI去落地后可以满足以下这个公式，这个AI项目就会变得极有价值即我们假设一个大牛的成本为X，一个菜鸟的成本为Y，原先不用AI一件工作的交付时间为A，质量为Q有以下公式：

成本上：3*Y<X;
交付时间：<=A；
交付质量：=Q

如果你的公司、你所在的业务可以在使用了AI后实现上述这样的公式，这个项目将是巨大的成功。

因此这不仅仅需要我们的企业也需要我们多如牛毛的创业公司静下心来、坐在一起好好去把现有企业不使用AI时的原定工续、步骤、产生的交付物理一下，然后结合AI后我们可以减少多少无意义的人力环节？节省多少成本？提高多少时间？同时又不能差于原有的交付质量。因此：

是否可节省成本？
是否会比原来的产出时间更短？
产出的质量不能低于原来？

以上3个要素就是一个AI项目是否可以成功的关键所在。

解决硬件成本的困局

成本贵不代表应该砍硬件，性能很大程度上依赖硬件。我们要提的是：更合理的去运用硬件。

这也是近来业界开始不断的提出（包括一些巨头-Amazon, google, 推特，甚至是国内几个头部公司也已经开始着手实施）：

去微服务化；
去Docker化；
回归本地+云的结合；

这边不能说了太直白，这里面也没有任何新的、创造性的知识产出，只是在于TOGAF架构师原则即始终考虑一个系统的设计不应该对现有企业、业务形成“枷锁”。

我们说，之前在云原生的时代，我们大力提倡微服务、提倡Docker。这些过时了么？

完全没有过时，只是我们需要进一步去考虑一些在AI原生时代，一些过于重的、产效不明显的组件化设计是否因该进一步轻量化？

而且因为有了AI原生设计准则，一切ERP、EAI、SOA的手法这些都已经需要被重构了。一个本来需要占用3-5个实例的规则引擎很有可能还不如一句50个字的“猫娘”设定。

同时我们需要企业和相关的企业IT人员眼光放现实一些，我们说：自己购一台机器，加3块卡扛到CDC、IDC机房也不会比每个月几万几万的扔到VM上贵啊？对不对？这正是本地、云混合模式再次焕发青春的终极由来。甚至不少头部的厂商彻底不用云了，直接自建机房了当然前提是你有买一个“水库”用来冷却的实力那你就全部自建好了。

“大人，时代已经变了”。

这句话是永远的经典。

没有永恒的“设计模式、范式”，只有“不断变化、创新和接受新事物的眼光和心态”。

我们的创业者或者是我们的企业需要变换一下之前20年的那些IT设计思路了。