序言
回顾上一篇( 大模型炼丹手册-理论篇)的内容,大模型的整个训练流程,分为预炼、精炼和强炼三个阶段,并具有以下特点:
- 预炼:需要海量灵材、真火,炼制时间长,非豪门巨富难以承受;
- 精炼:仅需少量灵材、真火即可完成,炼制时间短,性价比高;
- 强炼:炼制过程复杂、炼制难度较大,非技艺高超者难以胜任。
对理论部分不太了解的话,建议先通读上一篇文章,可加深对实操部分的理解
我们知道,从零开始训练大模型,代价是极其高昂,只有财力雄厚的大公司可以承受。
那我们平民玩家,数据有限、算力不足,甚至没有炼丹经验,可不可以训练大模型呢?
答案是可以的。
选择已经训练好的模型,在特定数据上继续进行训练,即大模型微调。
大模型微调实现快,门槛低,人人都能玩。
而且,本篇介绍的方法,全程零代码,有手就行~
接