书生·浦语大模型实战营-第四课笔记

news2025/1/1 22:07:12

期待已久的微调课

一、Finetune

增量预训练和指令跟随是两种微调模式，即两种微调策略。

1）增量预训练

投喂新的领域知识即可，例如书籍、文章、代码

2）指令跟随

采用高质量对话和问答数据进行训练

二、LoRA与QLoRA

两者是微调的方法，即算法。

三、XTuner

xtuner是一种微调框架。

四、实操

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1461551.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

35、IO进程线程/多线程实现文件读写20240221

一、使用多线程完成两个文件的拷贝，第一个线程拷贝前一半，第二个线程拷贝后一半，主线程回收两个线程的资源。代码： #include<myhead.h> typedef struct //类型重定义结构体 {const char *src;const char *dest;int start…

vue3总结

1 setup 概述 setup是Vue3中一个新的配置项个函数, 包含数据、方法等，是组合api的“舞台”。特点如下： setup函数返回的对象中的内容，可直接在模板中使用。setup中访问this是undefined。setup函数会在beforeCreate之前调用，它…

人工智能深度学习

目录人工智能深度学习机器学习神经网络机器学习的范围模式识别数据挖掘统计学习计算机视觉语音识别自然语言处理机器学习的方法回归算法神经网络 SVM（支持向量机） 聚类算法降维算法推荐算法其他机器学习的分类机器…

Spring Cloud Gateway 中文文档

Spring Cloud Gateway 中文文档官方文档该项目提供了一个建立在Spring Ecosystem之上的API网关，包括：Spring 5，Spring Boot 2和Project Reactor。 Spring Cloud Gateway旨在提供一种简单而有效的方式来对API进行路由，并为他们提…

奇异递归模板模式应用5-静态多态

动态多态：C动态多态是利用虚函数特性实现的，即基类指针(引用）指向派生类指针(引用)。由于虚函数的实现是在运行期进行的，因而会产生运行期开销（虚表指针偏移，与分支预测器和CPU指令流水线相关）。…

window10中安装Docker Desktop(2024最新)

1、安装概述？博客创造时间：2024年2月20日。 Docker在Linux中的安装相对较简单，但是在window中的安装总是会出现很多的问题。新版本Docker Desktop安装的前提条件： 1、现在Docker Desktop默认使用WSL 2，而不是以前的Hyper-V。 2、检查系统要求：系统最好是Windows 1…

UE4 C++联网RPC教程笔记（三）（第8~9集）完结

UE4 C联网RPC教程笔记（三）（第8~9集）完结 8. exe 后缀实现监听服务器9. C 实现监听服务器 8. exe 后缀实现监听服务器前面我们通过蓝图节点实现了局域网连接的功能，实际上我们还可以给项目打包后生成的 .exe 文件创建…

【优选算法专栏】专题九：链表--------两两交换链表中的节点

本专栏内容为：算法学习专栏，分为优选算法专栏，贪心算法专栏，动态规划专栏以及递归，搜索与回溯算法专栏四部分。通过本专栏的深入学习，你可以了解并掌握算法。 💓博主csdn个人主页：小…

华清远见作业第四十天——Qt（第二天）

思维导图： 编程： 使用手动连接，将登录框中的取消按钮使用qt4版本的连接到自定义的槽函数中，在自定义的槽函数中调用关闭函数将登录按钮使用qt5版本的连接到自定义的槽函数中，在槽函数中判断ui界面上输入的账号是否为…

智慧园区软件解决方案，园区运营管理系统（源码）

一、楼栋管理 1、园区信息：描述园区信息，有些规模较大的产业园区会存在A区，B区，C区。 2、楼栋信息：管理园区所有的楼栋，设有楼栋编号，所属园区，楼栋地址等。 3、房源信息&#xf…

JAVA并发编程之原子性、可见性与有序性

并发编程-原子性、可见性与有序性一、CPU的可见性 1.1 缓存一致性问题的出现 CPU处理器在处理速度上，远胜于内存，主内存执行一次内存的读写操作，所需要的时间足够处理器去处理上百条指令。为了弥补处理器与主内存处理能力之间的差距&am…

计算机网络基础之计算机网络组成与分类

计算机网络基础计算机网络是计算机技术与通信技术发展相结合的产物，并在用户需求的促进下得到进一步的发展。通信技术为计算机之间的数据传输和交换提供了必需的手段，而计算机技术又渗透到了通信领域，提高了通信网络的性能。计算机网络的…

书生·浦语大模型实战营-第六课笔记

1.评测追魂夺命三连问 2.主流大拿有话说-评测框架 3.友商最棒儿子最亲，好瓜都是王婆的 4.真枪实弹上战场为了给平台省点电，我用了自家的电和自家的电脑进行评测。评测的模型也是之前在自己电脑上跑了3轮花费30多个小时的第四课作业微调的法律大模型。s…

1.接口 interface Movable {var maxSpeed: Intvar wheels: Intfun move(movable: Movable): String}class Car(var name: String, override var wheels: Int 4, _maxSpeed: Int) : Movable {override var maxSpeed: Int _maxSpeedget() fieldset(value) {field value}overr…