写给LLM新手的建议，让你少走2年弯路！

news2024/11/15 6:55:02

大模型的爆火，在全球范围内引发了一场A1“狂也在业界点燃了一场百模大战。结合蕞近飙”，两年我在大模型领域的一些经验，分享一下在校学生/新人如何转到大模型阵营。

在这里插入图片描述

1、大模型有哪些从业方向?

首先你可以在求职网站搜索一下“大模型关键词，看一下招聘JD，基本可以了解现在业内对大模型工程师的需求方向和能力要求，总结一下，大致可以分为4类:
1.做数据的(大模型数据工程师，爬虫/清洗/ETL/Data Engine
Pipeline)
2.做平台的(大模型平台工程师，分布式训练大模型集裙/工程基建)3.做应用的(大模型算法工程师，搜/广/推/对话机器人/AIGC)4.做部署的(大模型部署工程师，推理加速/跨平台/端zhi能/嵌入式)

从目前的业内情况来说，预训练大家基本不做了，因为太耗钱，且一直有更好的开源基座在推出，其它家只需要在基座上微调即可，没必要每家公司都做基座。

数据是每个算法工程师的基本能力，不管做什么算法方向都需要有数据的sense，这个就不多说了

评估方向，如果感兴趣，建议去智谱做，智谱出了很多benchmark，且智谱不算是商业公司，更多是学校和研究院的风格，不太卷，毕竟背靠清华

目前业界招人的大头，基座方向聚焦在后训练的人才，以SFT和DPO对齐为主，应用方向聚焦在Agent

2、大模型的入门学习路线应该是怎样的?

不同人的基础/背景/学习经历是不同的，针对
1.目前工作0-2年，想转行大模型的职场人
2.还在读书的学生，主动/被动转到大模型方向3.对大模型有兴趣，但仅仅想了解它的历史和发展，暂时还无转行想法，考虑考虑再决定
4.纯粹好奇世界上目前最火爆的技术

学习路线如下:

第一阶段:从大模型系统设计入手，讲解大模型的主要方法;第二阶段:在通过大模型提示词工程从Prompts角度入手更好发挥模型
的作用;
第三阶段:大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段:大模型知识库应用开发以LangChain框架为例，构建物流行
业咨询智能问答系统;
第五阶段:大模型微调开发借助以大健康、新零售、新媒体领域构建适
合当前领域大模型;第六阶段:以SD多模态大模型为主，搭建了文生图小程序案例;第七阶段:以大模型平台应用与开发为主，通过星火大模型，文心大型等成熟大模型构建大模型行业应用。

3、最后总结一下，给准备入场大模型的新人几点小的建议:

1.不要只关心微调，SFT，RLHF，作为系统性学习是OK的，切忌花太多精力。
2.想做应用的，建议集中到某个垂直领域比如对话机器人，问答系统，金融/医疗/教育方向，找一个具体的场景，把它做好，做深。3.多关心数据，数据管道，高质量训练/测试集的构建经验，对数据的感觉，是最直接，也是最适合用到未来工作当中的。4.大模型不只有算法，也可以有工程。大公司拼的都是基建，平台是对业务的支撑，牛逼的基础设施是大模型产品成功不可或缺的因素。