AI大模型应用开发实战-AI时代应用开发破局!

news2024/12/23 8:51:24

后端应用级开发者该如何拥抱 AI GC?就是在这样的一个大的浪潮下,我们的传统的应用级开发者。我们该如何选择职业或者是如何去快速转型,跟上这样的一个行业的一个浪潮?

0 AI金字塔模型

31ca5f09c200e1be6beec3bf14312f84.png

越往上它的整个难度就是职业机会也好,或者说是整个的这个运作也好,它的难度会越大,然后越往下机会就会越多,所以这是一个金字塔型模型。

最顶难度最高的机会最少

1 基座大模型

类似OpenAI的ChatGPT,羊驼,百川智能等,自己拿大量语料去做预训练。

特点:

  • 消耗算力特别巨大
  • 需要大量的资本来支持

OpenAI一次全量训练几千万美金,只有巨头和大资本玩得起,职业机会少。

再往下就是

2 行业垂直大模型

在基座模型基础上灌入一些行业垂直数据,基本上可理解为它是在基座模型的基础上做微调。二次三次训练也好,得到这样的一个结果,它的职业机会稍微多点,但我认为可能对于应用级开发者机会不是那么多。

再往下看

3 AI原生应用

不管是ToB还是ToC,这块儿是大量机会,给到我们这些传统做互联网、科技公司、应用开发公司包括科技创业公司,就有我们应用开发者大量的机会存在。

向上,要了解模型;向下,要对行业要有了解,有场景sense。所以它是一个比较重要的位置,也是未来一个爆发的一个赛道。

看右边,ChatGPT CEO创始人Sam Altman说大模型是AI的iPhone时刻,就是在打造这样一个生态圈,像苹果,我有自己的App Store和开发者工具。然后你只需要借助AI把你的创意变成相应的应用。所以说在这个时候其实是有大量的职业机会或大量应用开发的机会存在,也是说我们传统的应用开发者去快速转型跟上这个赛道的一个绝佳机会。

因为前面可能在搞基座大模型,打地基;或在去微调训练,做一些行业模型,那这上面这些我们都无法参与或参与度低。

但是在这个强应用场景,现在其实还没有出现一些非常强的应用,这时有点像当年这个苹果刚发布的时候App Store刚刚发布的时候那个状态,跑马圈地,大量机会存在。

再往下其实也不是我们的机会,或者也不是应用级开发者应该关注的。因为再往下就是AI的使用可能变成非常普通的一个要求,各种行业都要学会使用去实现你自己或你行业的降本增效。所以它是一个所有企业使用的过程,对我们来说,这个就有点简单,所以它是一个仅仅是一个使用层面,但是这里面也有大量的机会:教别人会使用或开发一些应用,让它能够更好地去使用等。

所以这个模型大概就把我们的一个机会点和难度点说清楚,模型层面竞争日趋激烈的。

但应用市场现在看到还没出现杀手级应用,最大杀手级应用就是ChatGPT,其他的一些杀手级应用还没出现,为啥?因为现在上面两层不够完全成熟,或者说是大家的认知还没跟上,下面的这些各行业的应用,也没有完全用起来,很多人只是拿它聊天解决很基本问题,缺少了一些强应用,去把很多场景给做出来。

当然了,也是因为我们很多应用级开发者,目前对 AI 不是很了解,他可能有很多应用场景,但是对 AI 能做什么,怎么做,不太清楚。所以这块市场非常广阔,可以说,所有应用都值得用 AI 重做。

这个是从一个大的行业趋势,可以看到说应用级开发者,该如何去拥抱我们这个大模型。

具体到开发层面基本上就是是这样一个架构:

278ea330e44991db90127579eee8c05b.png

底层可能是我们的 GPU 算力,不用去关注,很多的云平台其实已经解决了我们的这个算力问题,包括我们后面案例里面实操的时候,要用到的类似一些像算力云或一些国内一些云平台,他们其实现在都把这个问题给我们解决了。

再往上就是大模型开发。AI GC 赛道里面我们讲的两大部分就是模型的开发部分,那这个部分跟我们应用级开发可能这个关系也不是很大,或者说大家的职业机会不是很多,那反倒是这个所谓的原生应用这一块儿呢,是非常应该关注的一个赛道。包含对大模型的了解,在大模型之上是我们的应用组件,那么应用组件上面是我们的应用框架。应用组件里面就包含了我们的 AI 的能力,我们 AI 的能力,还有我们的云能力,那 AI 能力可能就包括我们的多模态,大模型插件,云能力像什么向量数据库、COS 存储,这些云能力你可理解为是给 AI 开挂的。再往上应用框架有两个大方向:

  • 检索增强生成RAG,最多的应用就是文档问答,拿 PDF 传,然后就可以去和他对话,然后包括提炼一些他这个主要内容等等
  • agent 智能体,那这里面的话有很多的应用场景就是你可以把它想象成一个机器人的开发,但是这个机器人可能会更专业,而且它可以调度外部的一些软件。

从这个图,我们就可以找到自己的位置,应用级开发可能关注的能力范围右边这一大块儿,但实际 coding 的部分,用的比较多的 coding 的部分可能就是上面这两块(RAG 个 Agent)。其他地方都是我们在用的部分。

4 职业机会

很多同学对 AI 来临之后还是有点慌张的,觉得 AI 自己的工作是不是会被 AI 替代,或者以后这个职业机会是不是越少?应该不是。就是说 AI 淘汰的它不是人,而是不会使用 AI 的人,那么我们从职业机会上来看呢,其实现在 AI 在各个行业,各个细分行业,包括像我右边列到的这些行业,其实都是需要大量的应用级人才,那需要的人才什么?懂 AI,你还要懂场景,然后你知道怎么样用 AI 的能力结合这些场景做出一些应用来让大家使用。所以这个是说我们在很多的场景里面都是会看到的。

978702a1cfb9221b3e0e029e0087202f.png

为什么会有这个判断?agent 非常重要,能对自然语言做出反应,并基于对用户的了解完成许多不同任务的这样的一个事物,再结合这些场景之后,有非常多场景。目前来看,最常用的如私人助理或工作助理,就是各种各样助理,帮助你完成一些工作,即所谓的副驾驶。很多做程序开发同学使用过类似帮你写代码的一些副驾驶工具,就是你可能写一个提示词,它可以把一段代码给你写出来。

后面可能会每个人都有这样的一个助理,甚至每一个工种都有这样的助理,好比做一个AI+文旅,比如说你计划做一次旅行,旅游机器人会帮你找到适合你预算的酒店。然后智能体呢,还会知道你在一年中,什么时候去旅行,根据他对你总是尝试这个新的目的地的了解。或你喜欢故地重游的这个行为了解,向你建议旅游目的地。所以当他被询问的时候呢,他智能体会根据你的兴趣和冒险的倾向为你推荐做可以做的事情。还能帮你预定你喜欢的餐厅。

如果没有这样的一个 AI 场景的话,你现在做这些事情可能需要旅行社帮你去定制。

医疗场景,选择了一个使用一个心理健康的一个 agent。你只要给他灌输非常多的你的一些数据,就会了解你,你的生活经历和人际关系,在你需要的时候,他就会出现,而且会永远保持耐心,在你允许情况,它可以通过你的智能手表监测你对治疗的身体反应,比如当你和老板谈论问题时,你的心脏是否开始加速跳动,建议你什么时候应该去看人类的治疗师等。

比尔盖茨刚发了一篇文章,题目就是 AI 将彻底改变你如何使用电脑,还将颠覆软件行业,列举了非常非常多的场景,通过 agent 的方式结合各种场景去做出这样的一个 agent 应用,我们可以看到它的应用场景非常只要和人打交道的都是有机会。

传统的应用开发者在转型做 AI GC 有

AI 软件工程师,即做 AI 应用,还不过瘾,还想去深度的话,那可能就是偏向了我们的 AI 本身开发,类似我们的视觉工程开发,然后自然语言开发,机器学习等,这都是我们的一些转型职业机会。

直接去做 AI 应用的话,一个是机会比较多,再一个难度对我们转型的难度来说比较小,那么其他这几个可能就是说你需要学习的新东西会比较多一些。

如何转型呢?我们需要做哪些准备工作呢?或者说如何我们转型到这个 AI 应用开发的这样一个层面上,我们需要

5 需要掌握啥?

学习机器、深度学习的一些基础知识,上面这两层就是这个大模型层面和行业模型层面。这些模型层面,你需要有一些基础的知识的准备,起码得了解它如何运转的,然后一般怎么使用。

掌握一些 AI 开发的工具和框架,如Py,基本上可以说在机器学习领域,它是一个主流语言就是大量的项目,都是用来开发。

实践一些 AI 项目,这个就是说在转的过程中间,我们可能需要找一些场景结合我们的能力去做这样的出来,去把这个实践项目去实践一下。

深入了解特定领领域的 AI 知识,就是要具备一些场景的知识,这边像我右边列的这些场景其实都是有机会去做 AI 应用的,那就看谁一个是对 AI 的了解程度,比较深,比如说我们之前很多课程,就是教大家,比如说用 Open I 的 API 去开发一些加壳儿的应用。那它只是说帮大家去讲这个 API 的使用,但对场景的理解少,所以如果说你想转型成为一个非常成功的 AI 应用开发者的话,那你需要对你去服务,或者说你去做的这个场景,这个行业的场景非常的了解,抓到里面最关键的部分,那你可能成功的几率就会比较高。

6 总结

职业机会可能就是在这个层面会比较多一些,然后它的难度相对也就适中,但需要了解模型,也需要了解行业。而且现在处在一个爆发的前夜,或者说是一个即将爆发的这么一个状态。

从这个技术的角度来看,技术架构的角度来看的话,更应该关注在类似像智能体的开发,类似像RAG 技术。

对于其他的一些部分,我们就要做到了解,那么从职业机会的角度来看的话,就是目前大量的这个行业和场景是需要 AI 应用的。那么,我们要做好一些提前的准备工作,就是在转型的时候,我们要做好准备工作,要做一些前置的知识学习。然后我们要学会使用 AI。

应用级开发者,所谓的学会使用 AI,那和一般用户的使用 AI 还不一样。一般用户可能你拿一个现成的工具,你只要能用就行了,但是我觉得我们应用级开发者不光是拿现成工具应用,你可能还要研究它,你可能要看我如何去结合 AI 的特性把它开发出来。这个可能是我们的职业机会所在。

如何系统的去学习大模型LLM ?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

事实上,抢你饭碗的不是AI,而是会利用AI的人。

科大讯飞、阿里、华为等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?

与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。

针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)

在这里插入图片描述

LLM大模型学习路线

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。

  • 内容

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。

  • 内容

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。

  • 内容

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。

  • 内容

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2194637.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

毒蘑菇检测数据集 9200张 14类毒蘑菇 带标注 voc yolo

毒蘑菇检测数据集 9200张 14类毒蘑菇 带标注 voc yolo 分类名: (图片张数,标注个数) Amanita citrina: (700, 816) Gyromitra infula: (842, 1102) Hygrophoropsis aurantiaca: (766, 1578) Imleria badia: (794, 1027) Lactarius turpis: (728, 891) Boletus reticulatus: (67…

微信小程序开发-配置文件详解

文章目录 一,小程序创建的配置文件介绍二,配置文件-全局配置-pages 配置作用:注意事项:示例: 三,配置文件-全局配置-window 配置示例: 四,配置文件-全局配置-tabbar 配置核心作用&am…

日期类(Date)的实现 (C++版)

​ 🌹个人主页🌹:喜欢草莓熊的bear 🌹专栏🌹:C入门 目录 前言 一、Date的头文件,包含函数声明 二、 Date.cpp 2.1 int GetMonthDay(int year, int month) 2.2 bool Check() 2.3 Date& …

基于YOLOv8-deepsort算法的智能车辆目标检测车辆跟踪和车辆计数

关于深度实战社区 我们是一个深度学习领域的独立工作室。团队成员有:中科大硕士、纽约大学硕士、浙江大学硕士、华东理工博士等,曾在腾讯、百度、德勤等担任算法工程师/产品经理。全网20多万粉丝,拥有2篇国家级人工智能发明专利。 社区特色…

HTB:Funnel[WriteUP]

目录 连接至HTB服务器并启动靶机 1.How many TCP ports are open? 2.What is the name of the directory that is available on the FTP server? 3.What is the default account password that every new member on the "Funnel" team should change as soon a…

cudnn8编译caffe过程(保姆级图文全过程,涵盖各种报错及解决办法)

众所周知,caffe是个较老的框架,而且只支持到cudnn7,但是笔者在复现ds-slam过程中又必须编译caffe,我的cuda版本是11.4,最低只支持到8.2.4,故没办法,只能编译了 在此记录过程、报错及解决办法如下; 首先安装依赖: sudo apt-get install git sudo apt-get install lib…

李宏毅 X 苹果书 自注意力机制 学习笔记下

b1 ,b2...不是依序产生,而是同时被计算好的 从矩阵乘法角度看待self-attention运作过程 矩阵运算表示每一个a都要产生 a k v的操作如下: 矩阵运算表示的计算如下: A‘是A的normalization ,用softmax 矩阵运算表示b计…

Ubuntu有关redis的命令

防火墙: systemctl status firewalld systemctl stop firewalld systemctl disable firewalld.service ifconfig查看ip地址 redis.conf在/etc/redis下,但是得sudo -i进入root模式 进入/etc/redis下开启redis-server服务 查看6379端口是否可以访问 net…

vue3- antd design vue 引入iconfont

文章目录 前言一、新建iconfont项目 前言 vue3项目中,如何引入第三方的iconfont的图标 一、新建iconfont项目 搜索需要的图标,加入购物车,购物车中图片加入项目 下载项目文件,打开压缩包后,将iconfont.js 文件拷贝到…

基于vue框架的大学生心理健康服务平台mwavu(程序+源码+数据库+调试部署+开发环境)系统界面在最后面。

系统程序文件列表 项目功能:学生,心理专家,心理咨询,健康文章,咨询回复,心理案例,监测预警,解压游戏,放松音乐 开题报告内容 基于Vue框架的大学生心理健康服务平台开题报告 一、研究背景与意义 随着社会的快速发展和教育竞争的日益激烈,大学生面临着…

SpringBoot教程(二十四) | SpringBoot实现分布式定时任务之Quartz

SpringBoot教程(二十四) | SpringBoot实现分布式定时任务之Quartz 简介适用场景Quartz核心概念Quartz 存储方式Quartz 版本类型引入相关依赖方式一:内存方式(MEMORY)存储实现定时任务1. 定义任务类2. 定义任务描述及创建任务触发器3. Quartz的…

VirtualBox Ubuntu22.04 NOI linux2.0 Terminal无法打开 终端打不开 两步解决法儿

新安装的虚拟机无法打开Terminal,从应用列表中单击Terminal,左上角任务栏会出现Terminal,并且鼠标转圈,但是过一会左上角Terminal消失,就像一切都没有来过。 解决办法: CTRL ALT F3 进入命令行模式&…

【自然语言处理】补充:基于向量空间的分类器

【自然语言处理】补充:基于向量空间的分类器 文章目录 【自然语言处理】补充:基于向量空间的分类器1. 特征选择2. 基于向量空间的分类方法3. Rocchio4. KNN5. 线性分类器1. 特征选择 特征选择 文本分类中,通常要将文本表示在一个高维空间下,每一维对应一个词项许多维上对应…

如何基于vite实现清除特定环境下的console和debugger

一、解决方法 方法一:使用esbuild 直接在vite.config.ts文件中写,无需下载插件 export default defineConfig(({ mode }) > {// 环境变量const env loadEnv(mode, root, "");return {base: env.VITE_PUBLIC_PATH,plugins: [vue(),...],…

中国书法-孙溟㠭浅析碑帖《九成宫醴泉铭》

中国书法孙溟㠭浅析碑帖《九成宫醴泉铭》 《九成宫醴泉铭》是由魏征撰文、欧阳询书丹,唐贞观六年(公元632年)立碑,篆书体题碑额。内容记载了唐太宗李世民在九成宫避暑山庄发现涌泉的事。 书法法度森严,腴润中见峭劲&…

图文并茂解释水平分表,垂直分表,水平分库,垂直分库

文章目录 1.垂直角度(表结构不一样)垂直分表:垂直分库: 2.水平角度(表结构一样)水平分库:水平分表: 1.垂直角度(表结构不一样) 垂直分表: 将一个表字段拆分成多个表,每个表存储部分字段。好处是避免IO时锁表的次数,分…

数据结构——遍历二叉树

目录 什么是遍历二叉树 根据遍历序列确定二叉树 例题(根据先序中序以及后序中序求二叉树) 遍历的算法实现 先序遍历 中序遍历 后序遍历 遍历算法的分析 二叉树的层次遍历 二叉树遍历算法的应用 二叉树的建立 复制二叉树 计算二叉树深度 计算二…

java发起POST方法请求第三方接口(编码处理)

文章目录 引言I 案例查询船舶轨迹配置JVM编码参数请求提供方常见问题II 工具类III 知识扩展:程序运行源代码各个阶段对编码的处理Java源码--->字节码Java字节码--->虚拟机--->操作系统操作系统-->显示设备引言 使用场景: 调用第三方平台接口 I 案例 查询船舶…

【MySQL】--数据类型

文章目录 1. 选择数据库1.1 语法 2. 查询当前选中的数据库2.1 语法 3. 常见数据类型分类4. 数据值类型4.1 类型列表4.2 数据类型取值范围 5. 字符串类型5.1 类型列表5.2 关于排序5.3 CHAR和VARCHAR的区别5.4 如何选择CHAR和VARCHAR5.5 VARCHAR与TEXT的区别 6. 日期类型6.1 类型…

基于SSM的仿win10界面的酒店管理系统

基于SSM的仿win10界面的酒店管理系统 运行环境: jdk1.8 eclipse tomcat7 mysql5.7 项目技术: jspssm(springspringmvcmybatis)mysql 项目功能模块:基础功能、房间类型、楼层信息、附属功能