打造自己的大模型LLMs!独家训练秘籍!

news2024/11/25 1:00:07
目录
  • 前言
  • 大语言模型 Vs机器学习模型
  • 训练过程
    • 步骤1:数据策划(Data Curation)
    • 步骤2:格式化与预处理
    • 步骤3:训练模型
    • 步骤4:模型评估
  • LLM Leaderboard
      • [LLM Leaderboard 2024](https://www.vellum.ai/llm-leaderboard)
      • [Open LLM Leaderboard - Hugging Face](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard)
      • CompassRank
      • [Arena Leaderboard](https://chat.lmsys.org/?leaderboard)
  • 总结

前言

在当今数字时代,语言模型已经成为自然语言处理任务的强大工具,从文本生成到情感分析和机器翻译等各个方面都有涉猎。然而,训练这些模型需要仔细的规划、大量的计算资源以及机器学习技术方面的专业知识。

那么一个大型语言模型(LLMs)到底是如何训练出来的呢?在查阅了解之后,我们将相关内容整理出来。在本文中,将和大家一起探讨训练LLMs所涉及的步骤,欢迎各位读者指正与补充。
在这里插入图片描述


大语言模型 Vs机器学习模型

大语言模型和传统机器学习模型在模型训练步骤方面有一些相同点,比如它们都需要:

  • 准备和整理训练数据
  • 选择合适的模型架构和超参数
  • 进行模型训练和评估

在这里插入图片描述

不过,它们也存在一些不同点,和机器学习模型相比,大语言模型通常:

  • 更复杂,需要大量微调以适应特定任务
  • 需要大量的文本数据,然后再进行
  • 需要更大的计算资源和时间。

而传统机器学习模型可能更加灵活,可以根据任务的需求选择不同的特征工程和算法,在较小的数据集和资源下也能取得良好的效果。

  • 更灵活
  • 根据任务需求选择算法
  • 较小的数据集和资源
    在这里插入图片描述

训练过程

步骤1:数据策划(Data Curation)

在大模型训练过程中,数据清洗不单单是删除一些错误数据、重复项,还包括对不同语料数据的重新组织整合,同时,这些数据也可以重复训练不同的模型任务。因此,这里没有选择更佳熟悉的Data Cleaning,而是选用了Data Curation一词,感觉更佳恰当。

来自维基百科翻译:
数据策划是对从各种来源收集的数据进行组织和整合的过程。它涉及数据的标注、发布和呈现,以确保数据的价值随着时间的推移得以保持,并且数据仍然可以用于重复使用和保存。数据策划包括“所有为了原则性和受控的数据创建、维护和管理所需的过程,以及增加数据价值的能力”。

在训练数据整理阶段,收集大量的数据是关键。训练数据的质量和数量对LLMs的性能有着重要影响。收集的数据应该与模型的目标相关,多样化并且具有代表性的数据集,包括书籍、文章、网站或特定领域的语料库的文本。

数据收集完毕后,不能直接用于模型训练,还要进行各种处理,比如:

  • 语言选择:收集的语料包含了各种语言,要选择哪几种语言进行训练。
  • 质量检查:确保数据符合期望的质量标准,适合预期的用途
  • 去重:删除相似性高的内容,以提高训练的准确性,同时减少占用的存储空间。
  • 删除个人敏感信息 PII( Personally Identifiable Information)
  • 数据净化:识别和删除污染物、异常以及不需要的元素,有助于减轻使用受污染数据所带来的风险,例如偏见分析或不准确的见解。
步骤2:格式化与预处理

在将数据提供给模型之前,需要对其进行格式化和预处理。确保数据清洁、统一,以提高模型的训练效果。这包括:

  • 格式化:将文本转换为模型可接受的输入格式
  • 清洗文本:清洗文本以去除不必要的字符、标点符号、HTML标签、特殊字符或噪音等。
  • 移除停用词:在语言中频繁出现但通常没有特定的含义或信息量,例如英文中的 “the”, “is”, “and” 等。
  • 标记化/分词 (Tokenization):将一句话切割成词组、短语或字符等离散单元,可以通过空格、标点符号或特定规则进行分割。

这个步骤最常用的工具库就是Tokenizers,支持多种算法和语言,能快速对文本进行清洗和预处理。

步骤3:训练模型

选择合适的训练框架是至关重要的,常用的框架包括TensorFlow、PyTorch等,根据需求和技术熟练程度选择合适的框架。同样重要的还有配置训练环境,包括硬件资源和软件依赖项,并确保训练过程的顺利运行。

配置训练环境

  1. 硬件资源
    • GPU:训练LLMs需要大量的图形处理单元(GPU)来加速计算。通常使用NVIDIA的GPU,如Tesla V100、Tesla T4等。
    • TPU:谷歌的Tensor Processing Units(TPU)也可以用于训练大型语言模型,提供了高效的计算能力。
    • 内存:大规模语言模型需要大量内存来存储模型参数和中间结果,通常需要数百GB甚至数TB的内存。
  2. 软件资源
    • CUDA和cuDNN:如果使用GPU,需要安装NVIDIA的CUDA和cuDNN库来加速深度学习计算。
    • 深度学习框架:安装所选框架的最新版本,例如TensorFlow或PyTorch。
    • 预训练模型:如果使用预训练的语言模型作为基础,需要下载或准备相应的预训练模型权重。

训练框架

  1. TensorFlow:由Google开发的开源深度学习框架,提供了丰富的工具和资源来训练大规模的语言模型。
  2. PyTorch:由Facebook开发的深度学习框架,因其灵活性和易用性而受到青睐。
  3. Hugging Face Transformers:提供了一系列预训练的语言模型和自然语言处理模型的实现,包括BERT、GPT、RoBERTa等,基于PyTorch实现,提供了方便的模型和预训练权重加载。
  4. DeepSpeed:微软开发的深度学习框架,专注于大规模分布式训练和高效模型优化。它使ChatGPT等模型训练仅需一键操作即可完成,同时在各个规模上实现了前所未有的成本降低。
  5. Llama:Llama是一系列预训练和微调的LLM,参数范围从70亿到700亿。它是Meta(Facebook的母公司)AI团队开发的。Llama 2 Chat LLMs专为对话用例进行了优化,并已在各种基准测试中表现出色,超过了许多开源聊天模型。
  6. LangChain:是一个 Python 库和框架,旨在赋能开发者创建由语言模型驱动的应用程序,特别关注像 OpenAI 的 GPT-3 这样的大型语言模型。它配备了多种功能和模块,旨在优化与语言模型合作时的效率和可用性。
步骤4:模型评估

在训练完成后,对模型进行评估是必不可少的。

在机器学习模型训练中,我们会通常比较看重预测结果的准确性,使用准确度、召回率、F1分数等这些评估指标来衡量模型的性能,同时,将模型在测试集上进行评估,以确保其在未见数据上的泛化能力。

而在LLM中,使用者希望模型能够完成问答、总结、文本分析、翻译等等文本处理任务,因此,评估一个大语言模型(LLM)涉及多个方面,包括模型的语言能力、生成能力、语义理解、文本生成质量等,所使用的指标也各有不同。

下面选取了几个:

  1. 困惑度(Perplexity):用于衡量语言模型在给定文本序列下预测下一个单词的准确性,困惑度越低表示模型预测越准确。
  2. BLEU分数:评估生成文本与参考文本之间的相似度,尤其在机器翻译任务中常用,分数越高表示生成结果越接近参考文本。
  3. ROUGE指标:评估生成文本与参考文本之间的重叠程度,特别适用于自动摘要生成任务,ROUGE值越高表示生成结果与参考文本越接近。
  4. ARC: AI2 Reasoning Challenge 涉及推理和逻辑推断的任务,用于评估语言模型在逻辑推理方面的能力。
  5. HellaSwag:用于评估语言模型(LM)能否理解具有挑战性的自然语言理解任务的指标。
  6. MMLU: Massive Multitask Language Understanding,评估LLM在多任务处理方面的表现能力。
  7. TruthfulQA:用于评估语言模型的知识和推理能力的问答(QA)基准

LLM Leaderboard

这是在收集资料过程中,发现的一些大模型排行榜, 通过不同的指标对比现在大模型的各种性能表现。

LLM Leaderboard 2024

在这里插入图片描述

Open LLM Leaderboard - Hugging Face

![[未命名 1-20240418160003018.webp]]

CompassRank

![[未命名 1-20240418155713975.webp]]

Arena Leaderboard

![[未命名 1-20240418155507763.webp]]


如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓

👉1.大模型入门学习思维导图👈

要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。

对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
在这里插入图片描述

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。

在这里插入图片描述
在这里插入图片描述

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)

在这里插入图片描述

👉4.大模型落地应用案例PPT👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(全套教程文末领取哈)

在这里插入图片描述

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

在这里插入图片描述

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2128188.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

怎么修改mvn的java版本

在maven所在目录下的bin目录中找到 mvn.cmd 文件,选中这个文件后,鼠标右键选择编辑。 在第一行添加java对应版本号的jre的路径 再次重新查看cmd下的指定的mvn -version的java版本

HT513 2.8W I2S 输入单声道D类音频功率放大器

特征 电源供电: PVDD 2.5-6.5V; DVDD/AVDD 3.3V 灵活的音频输入: -I2S, LJ, RJ, TDM 输入 -8,16,32,44.1,48,88.2,96,192kHz 采样频 率输出功率: 1.40W (PVDD3.6V,RL4Ω,THDN10%) 2.80W(PVDD5.0V,RL4Ω,THDN10%) 4.70W(PVDD6.5V,RL4Ω,THDN10%) THDN0.08%(PO1W, RL4Ω, PVDD …

【直播预告】从人工智能到类脑与量子计算:数学与新计算范式

数学作为科研的基础工具,在推动人工智能、类脑计算、量子计算等新兴计算范式发展中起到了关键作用。 数学是人工智能的重要基石,数学中的逻辑推理、概率统计、优化算法等概念在人工智能中广泛应用,如线性代数用于数据处理和特征提取&#xf…

本地生活区域推广合伙人怎么做?前景如何?

今年3月,本地生活于山东青岛举行了“2024聚力生态大会”,并全面解读了本地生活区域合伙人的增长态势、用户价值、平台生态和平台政策等内容。而从大会结束至今,多个创业者交流群里关于本地生活区域推广合伙人的讨论度居高不下,想要…

Servlet编程第一步:从零构建Hello World应用,详细步骤+图解

前言 什么是Servlet? Servlet 是一个 Java程序,是在服务器上运行以处理客户端请求并做出响应的程序 什么是maven? 简而言之,maven是通过一小段描述管理和构建java项目的工具(通过pom.xml),我们通过maven项…

HTML中的javascript基本用法及综合实例

文章目录 基本的使用方法内联JavaScript脚本标签外部脚本文件使用库和框架注意事项 几个进阶的主题和示例1. 操作DOM2. 响应用户输入3. AJAX请求4. 使用框架/库 综合实例HTML 结构JavaScript 逻辑功能解释CSS 样式 基本的使用方法 在HTML中使用JavaScript可以让网页变得更加动…

HarmonyOS开发之使用PhotoViewPicker(图库选择器)保存图片

一:效果图 二:添加依赖 import fs from ohos.file.fs;//文件管理 import picker from ohos.file.picker//选择器 三:下载,保存图片的实现 // 下载图片imgUrldownloadAndSaveImage(imgUrl: string) {http.createHttp().request(…

21世纪全球最具影响力的思想家颜廷利:当今世界公认三大哲学家

优秀,源自对知识的敬畏, 成功,孕育于对经历的感恩。 无私,是真我显现的舞台, 开悟,让心灵沐浴人间的清明。 和善,是通往高峰的稳健脚步, 互爱,让福气溢满整个世界……

51单片机应用开发---什么是单片机?为什么要学习单片机?

实现目标 1、熟悉单片机定义、特点、应用场景、发展历史等; 2、理解为什么要学习单片机?怎样学习单片机? 一、单片机是什么? 1、定义 单片机是集成在一块(单)芯片上的微型计算机。平时我们把 MCU&#x…

Basler 相机与LabVIEW进行集成

Basler 提供的相机驱动和 SDK (Software Development Kit) 允许用户通过 LabVIEW 对相机进行控制和图像采集。以下是 Basler 相机与 LabVIEW 集成的几种方式: 1. Baslers Pylon SDK Basler 提供的 Pylon SDK 是一套用于控制 Basler 相机的开发工具包,支…

给RAG开药方:亚马逊发布RAGChecker,专治AI回答不准

立即解决AI误差:亚马逊RAGChecker的创新之举 ©作者|Blaze 来源|神州问学 引言 在人工智能领域,RAG(Retrieval-Augmented Generation)模型以其强大的生成能力和灵活性赢得了广泛关注。它结合了信息检索和生成技术&#xff0…

Matlab2023a/b安装Cplex12.9(实测适配)

目录 1 Matlab2023a/b版本安装Yalmip2 下载Cplex12.92.1 登录官网2.2 搜索意向版本and下载 3 安装cplex4 matlab与cplex耦合!!!5 测试 1 Matlab2023a/b版本安装Yalmip google一下后CSDN有很多安装说明,不再赘述,可见&…

功能这么全的excel导出,你确定不需要?

欢迎来到我的博客,代码的世界里,每一行都是一个故事 🎏:你只管努力,剩下的交给时间 🏠 :小破站 功能这么全的excel导出,你确定不需要? 前言Maven坐标HSSFWorkbook、SXSSF…

【音视频】使用movie、drawtext过滤器实现图片、文字水印(6-3)

本来准备从六月份开始研究使用ffmpeg的movie filter实现图片水印、drawtext filter实现文字水印的能力,但一直没时间,临近中秋终于有空,于是研究了下ffmpeg命令行(这里不做展示,关注代码实现),从…

AI客服机器人开启企业客户服务新纪元

随着人工智能(AI)技术的迅猛发展,使得AI客服机器人走进了我们的视野,成为提高客户满意度和业务效率的不二法宝。这些智能机器人不仅能够处理海量信息,还能为客户提供个性化的服务体验。 一、AI客服机器人的基本原理 AI客服机器人是基于人工智…

Azure web app has no access to openai private endpoint in virtual network

题意:"Azure Web 应用无法访问虚拟网络中的 OpenAI 私有端点。" 问题背景: I am trying to host a web application similar to a private ChatGPT instance within a secluded virtual network, ensuring that theres no external internet …

​年化收益52%,最大回撤13%,卡玛比率3.77,ETF轮动系列大有可为(附策略代码和数据下载)。

原创内容第648篇,专注量化投资、个人成长与财富自由。 今天继续开发策略,先看结果: 年化52%,最大回撤13%,卡玛比率3.77。 策略逻辑: 买入规则: 5日均线大于20日均线 。 最近20个交易日的涨…

【Prompt Engineering:思维树 (ToT)、检索增强生成 (RAG)、自动推理并使用工具 (ART)】

思维树 (ToT) 对于需要探索或预判战略的复杂任务来说,传统或简单的提示技巧是不够的。最近,Yao et el. (2023)(opens in a new tab) 提出了思维树(Tree of Thoughts,ToT)框架,该框架基于思维链提示进行了总…

全球著名地标卫星影像收藏第5辑

世界那么大,一起去看看! 我们在《全球著名地标卫星影像收藏第4辑》一文中,为大家分享了10全球著名地标高清卫星影像,现在继续为大家分享10个著名地标。 我们整理这些地标的KML文件分享大家,也可以打开相应URL链接即可…

tofixed和math.round什么区别

1、floor 返回不大于的最大整数(向下取整) 2、round 则是4舍5入的计算,入的时候是到大于它的整数(当-1.5时可见,四舍五入后得到的结果不是我们期待的,解决办法是先对他取绝对值,然后在用round方…