1. 为什么要学习大模型开发？
2. 需要准备的工具和环境

1. 大模型发展史
2. 从大模型预训练、微调到应用
3. GPT结构剖析
4. 大模型家族、类别、应用场景
5. RAG，Agent与小模型

1. 通过API调用大模型
2. 单论对话与多轮对话调用
3. 开源模型与闭源模型调用
4. ChatGLM，Baichuan，Yi-34B调用
5. GPT，LLaMA模型调用
6. 模型的部署、容器化

1. 提示词的常见结构
2. 提示词的模版化
3. Zero-shot与Few-shot
4. In-context learning
5. Chain of thought prompting

1. Tree of thought prompting
2. Graph of thought promting
3. Self-consistency
4. Active-prompt
5. Prompt chaining

1. 为什么需要RAG？
2. RAG的经典应用场景
3. RAG的经典结构与模块
4. 向量数据库
5. 检索与生成

1. 产品介绍与核心功能
2. 技术方案与架构设计
3. 文档读取和解析
4. 文档的切分和文档向量化
5. query搜索与文档排序
6. 提示模版与大模型API接入
7. 模型部署与Web应用

1. 根据每个Sentence切分
2. 根据固定字符数切分
3. 根据固定sentence数切分
4. 根据递归字符来切分
5. 根据语义相似度来切分

1. 常用向量数据库以及类别
2. 向量数据库与索引算法
3. 到排表与搜索优化
4. KNN与近似KNN
5. Product Quantization

1. HSNW算法在索引中的重要性
2. NSW算法解读
3. NSW图中的搜索问题
4. Skip List讲解
5. 具有层次结构的NSW

1. 推荐系统原理、应用场景以及架构剖析
2. 传统推荐算法与基于LLM推荐算法
3. 新闻数据的准备与整理
4. 推荐中的召回与精排
5. 精排与Prompt构建
6. 模型部署与测试

1. 为什么需要LangChain?
2. 通过一个小项目快速理解各个模块
3. LangChain调用模型
4. PromptTemplate的应用
5. 输出格式设定
6. Pydantic Object设计

1. 什么是 Function Calling
2. 自定义输出结构
3. 基于OpenAI调用Function Calling
4. Function Calling的稳定性
5. LangChain与Function Calling

1. Document Loaders
2. Text Splitters
3. Text Embedding模型
4. 常用的向量数据库调用
5. 常用的Retriever

1. 为什么需要Chain？
2. LLMChain, Sequential Chain
3. Transform Chain
4. Router Chain
5. 自定义Chain

1. 经典RAG的几个问题
2. Self-querying retrieval
3. MultiQuery retriever
4. Step-back prompting
5. 基于历史对话重新生成Query
6. 其他Query优化相关策略

1. Sentence window retrieval
2. Parent-child chunks retrieval
3. Fusion Retrieval
4. Ensemble Retrieval
5. RPF算法

1. 为什么需要评估RAG
2. RAG中的评估思路
3. 评估指标设计
4. 套用在项目中进行评估
5. RAGAS评估框架的缺点

1. 需求理解和系统设计
2. 经典RAG架构下的问题
3. 检索器优化
4. 生成器优化
5. 系统部署与测试

1. 模型私有化部署的必要性
2. 中英开源模型概览与分类
3. ChatGLM, Baichuan，Yi等中文开源模型
4. LLaMA，Mistral系列英文开源模型
5. 微调所需要的工具和算力

1. 判断是否需要模型微调
2. 模型微调对模型的影响和价值
3. 选择合适的基座模型
4. 数据集的准备
5. 微调训练框架的选择

1. GPU与CPU
2. GPU的计算特性
3. 微调所需要的算力计算公式
4. 常见GPU卡介绍与比较
5. 搭建GPU算力环境

1. 全量微调与少量参数微调
2. 理解LoRA训练以及参数
3. PEFT库的使用
4. LoRA训练硬件资源评估
5. 认识QLoRA训练

1. 理解ChatGLM模型家族以及特性
2. 导入模型以及tokenizer
3. 设计模型参数以及LoRA参数
4. 训练以及部署微调模型
5. 测试微调模型

1. 什么是Agent
2. 什么是Plan, Action, Tools
3. 经典的Agent开源项目介绍
4. 编写简单的Agent程序
5. Agent目前面临的挑战与机遇

1. LangChain所支持的Agent
2. 什么需要自定义Agent
3. @tool decorator的使用
4. 编写自定义Agent工具
5. 编写完整的Agent小项目

1. 回顾什么是CoT
2. CoT和Action的结合
3. 剖析ReAct框架的Prompt结构
4. 从零实现ReAct（from Scratch)
5. ReAct框架的优缺点分析

1. 开源Agent项目以及分类
2. AutoGPT项目讲解
3. MetaGPT项目讲解
4. 其他开源项目
5. Agent技术目前存在的问题

1. Agent的planning
2. Agent的reasoning
3. Agent的knowledge
4. Agent的memory
5. Agent的泛化能力

1. 需求设计和系统设计
2. 工具的设计
3. AI面试中的深度询问方案设计
4. 提示工程设计
5. Memory的设计
6. 智能体开发与部署

1. AI旅游规划师
2. AI产品销售
3. AI房租推荐
4. AI图像处理
5. AI网站开发

1. 多个Agent的协同
2. Agent的group行为
3. Agent Society
4. Agent的Personality
5. 斯坦福小镇案例

1. 智能设备特性以及资源限制
2. 模型优化的必要性
3. 常见的模型压缩技术
4. 轻量级模型架构介绍
5. 开源小模型

1. 多大的模型适合
2. 部署流程概述
3. 模型转换工具
4. 模型部署实战
5. 性能测试与优化

1. 边缘计算的概念和重要性
2. 模型所要满足的要求与性能上的平衡
3. 模型在边缘设备上的应用案例
4. 未来“小”模型发展趋势
5. 24年“小”模型机会

1. 什么是多模态模型
2. 多模态的应用场景
3. DALLE-3与Midjourney
4. Stable Diffusion与ControlNet
5. 语音合成技术概述
6. 主流TTS技术剖析

1. 多模态大模型最新进展
2. Sora对多模态大模型会产生什么影响
3. 案例：MiniGPT-4与多模态问答
4. 案例：BLIP与文本描述生成
5. 案例：Video-LLaVA与多模态图像视频识别

1. 大模型技术局限性
2. 大模型的隐私性和准确性
3. 大模型和AGI未来
4. GPT商城的机会
5. 多模态的机会
6. 对于开发工程师未来的启示

一般掌握到第四个级别，市场上大多数岗位都是可以胜任，但要还不是天花板，天花板级别要求更加严格，对于算法和实战是非常苛刻的。建议普通人掌握到L4级别即可。