大语言模型的sft

news2024/11/29 2:55:21

https://zhuanlan.zhihu.com/p/692892489icon-default.png?t=N7T8https://zhuanlan.zhihu.com/p/6928924891.常见的sft的开发流程

a.根据业务场景调整提示词;越详细越好,不要让模型理解歧义,拆分。

b.尝试闭源和开源,以评估LLM能够解决这类场景问题。

c.准备数据,包括多个子任务。

d.训练上线迭代。

2.训练数据要注重什么?

a.确保回答格式和风格的统一。gpt4的回答风格是先复述理解问题,再回答,再总结。经验是训练数据的格式和风格越统一,越能最大限度的发挥模型在具体任务的效果上线。在LIMA,YI,Reformatted alignment中都有提到。

b.训练集既要包含难也要包含易。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1802317.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

产气荚膜梭菌定植与婴儿食物过敏之间的关联

谷禾健康 牛奶蛋白过敏(CMPA)是婴儿最常见的食物过敏类型之一。粪便病原菌培养显示产气荚膜梭菌阳性率超过30%,明显高于其他细菌。因此推测产气荚膜梭菌定植可能是婴儿牛奶蛋白过敏的发病因素之一。 一项真实世界的研究,杨敏团队从…

2024年跨平台应用解决方法

个人博客:Sekyoro的博客小屋 个人网站:Proanimer的个人网站 很久没有写这类high-level的文章了,本身这类框架就一直层出不穷,但是其中历久弥坚,坚韧不拔的框架又有多少呢? 首先考虑到学习成本以及掌握一些编程语言在工作、学习生态上的价值,给这些东西适用生态划分一下. Reac…

能放在桌面上的倒数提醒软件 桌面提醒软件倒数日

在忙碌的生活中,我们总有许多待办事项和重要的纪念日需要牢记。可是,人的记忆毕竟有限,有时候一不小心就会错过那些重要的时刻。 桌面提醒软件是我日常生活中的得力助手。它小巧轻便,静静地待在我电脑的桌面上,每次打…

【漏洞复现】多客圈子论坛系统 httpGet 任意文件读取漏洞

0x01 产品简介 多客圈子论坛系统是一种面向特定人群或特定话题的社交网络,它提供了用户之间交流、分享、讨论的平台。在这个系统中,用户可以创建、加入不同的圈子,圈子可以是基于兴趣、地域、职业等不同主题的。用户可以在圈子中发帖、评论、…

2024教资认定报名流程,点赞收藏!

2024年要进行教资认定的宝子们提早准备 🔥教资认定网上报名流程概览 一、进入教资认定网报入口 二、进行实名核验 三、申请网报时间查询 四、个人信息维护 五、认定申请报名 🔥教资认定所需材料 1⃣️身份证 2⃣️户口本/居住证/学…

17_Vue高级监听器生命周期Vue组件组件通信

文章目录 1. 数据监听器watch2. Vue生命周期3. Vue组件4. Vue组件通信Appendix 1. 数据监听器watch 首先watch需要单独引 import {watch} from vuewatch函数监听ref响应式数据 watch(监听的内容,监听行为)监听行为默认为(newValue,oldValue) let firstname ref…

[职场] 生产安全员求职简历范文 #媒体#经验分享

生产安全员求职简历范文 生产安全员是现代企业中不可或缺的职位,他们的主要职责是确保生产过程中的安全和健康。下面是生产安全员求职简历范文,供大家参考。 个人信息 姓名:蓝山 年龄:25岁 地址:嘉兴 工作经验&am…

Inpaint9.1软件下载附加详细安装教程

软件简介: Inpaint 是个人开发者Max开发的图片处理软件,可以高效去除水印,修复照片等。使用方法和操作都很简单,非常适合不会PS等软件的小白用户。 安 装 包 获 取 地 址: Iinpaint win版:​​https://souurl.cn/b…

xm文件怎么转换成mp3文件,亲测有效!附工具下载

朋友们,你们有没有遇到过喜马拉雅的.xm文件转成MP3格式的麻烦?别急,我这儿有个好消息告诉你,有个免费的转换工具,简单几步就能搞定,还能批量处理呢! 咱们先聊聊这个数字音频的小困扰。喜马拉雅…

使用Rufus工具制作Ubuntu To Go——很详细

一、准备工作 准备工具: 1、下载Rufus(主角)软件 2、准备一个U盘(制作启动盘,32G足够) 3、准备一个U盘或硬盘(小白128G足够,装Ubuntu系统) 4、下载Ubuntu系统镜像文件 1、下载软件Rufus 先来看…

用PlantUML描绘C++世界:通过文本描述精准控制UML图的生成

往期本博主的 C 精讲优质博文可通过这篇导航进行查找: Lemo 的C精华博文导航:进阶、精讲、设计模式文章全收录 前言 在编写程序时,可视化的工具可以极大地帮助我们理解和设计复杂的系统。对于C程序员来说,一个强大的工具是UML&am…

JVM学习-MAT

MAT(Memory Analyzer Tool) 基本概述 Java堆内存分析器,可以用于查找内存泄漏以及查看内存消耗情况MAT是基于Eclipse开发的,不仅可以单独使用,还能以插件方式嵌入Eclipse中使用,是一款免费的性能分析工具 获取堆dump文件 dump…

Edge浏览器十大常见问题,一次性解决!

Edge曾被称为最好用的浏览器,拳打Chrome脚踢firefox, 可如今却隐藏着像是播放卡顿、下载缓慢、广告繁多等诸多问题,不知道各位还在用吗? 今天小编收集整理了Edge浏览器十大烦人问题,并提供简单有效的解决办法,让你的E…

65. UE5 RPG 实现远程攻击

前面,我们实现了敌人的近战普通攻击,还兼容了对于没有武器的敌人的攻击。有近战就要有远程,这一篇,我们实现一下敌人的远程攻击。 首先,由于创建的资源增多,我们将GA和GE按敌人和英雄的类别分开&#xff0c…

MPC控制简化版

MPC控制算法简化版 模型预测控制(Model Predictive Control,MPC)是一种先进的控制策略,广泛应用于人形机器人的运动控制。具体实现过程中,还需结合机器人的实际动力学模型和更多的物理约束条件。以下是一个人形机器人…

基本 MOSFET 恒流源

恒流源在电路分析练习和网络定理中占有重要地位,然后它们似乎或多或少消失了。。。除非你是IC设计师。尽管在典型 PCB 设计中很少遇到,但电流源在模拟 IC 领域却无处不在。这是因为它们 1) 用于偏置,2) 作为有源负载。 偏置: 用作…

【SkyWalking】启用apm-trace-ignore-plugin追踪忽略插件

背景 使用Agent采集追踪数据的时候,想排除某些路径,比如健康检查等,这样可以减少上报的数据,也可以去除一些不必要的干扰数据。 加载插件 在agent/optional-plugins目录中有个apm-trace-ignore-plugin-${version}.jar插件&…

Hive on Spark版本兼容性

Hive on Spark仅在特定版本的Spark上进行测试,因此给定版本的Hive只能保证与特定版本的Spark一起工作。其他版本的Spark可能与给定版本的Hive一起工作,但不能保证。以下是Hive版本及其对应的Spark版本列表: 详情参考官方文档:http…

C# 异步方法async / await 任务超时处理

一、需求 如果调用一个异步方法后,一直不给返回值结果怎么办呢?这就涉及到怎么取消任务了。 二、Task取消任务 static CancellationTokenSource source new CancellationTokenSource();static void Main(string[] args){Task.Run(() >{for (int i …

C# WPF入门学习主线篇(十)—— DataGrid常见属性和事件

C# WPF入门学习主线篇(十)—— DataGrid常见属性和事件 欢迎来到C# WPF入门学习系列的第十篇。在前面的文章中,我们已经学习了 Button、TextBox、Label、ListBox 和 ComboBox 控件。今天,我们将探讨 WPF 中的另一个重要控件——D…