大型语言模型（LLMs）对该领域产生了巨大影响，以至于有人称2023年为生成式人工智能之年，这一称号得益于ChatGPT（GPT-3.5）的发布、采用和媒体报道。当我们提到ChatGPT时，实际上是指产品而非底层模型。它首次发布时由GPT-3.5 LLM驱动，此后已发展到包括多个更高性能的变体，例如GPT-4.10。GPT-3.5并非生成式人工智能之年唯一产生影响的模型。如图1-28所示，开源和专有LLMs都以惊人的速度走进了人们的生活。这些开源基础模型通常被称为基础模型，可以针对特定任务（如遵循指令）进行微调。

10 OpenAI, “Gpt-4 technical report.” arXiv preprint arXiv:2303.08774 (2023). .

图1-28 全面审视生成式人工智能的一年。请注意，这个概述中仍然缺少许多模型！

除了广泛流行的Transformer架构外，还出现了诸如Mamba11,12和RWKV.13等有前景的新架构。这些新颖的架构试图在具有额外优势（如更大的上下文窗口或更快的推理速度）的情况下达到Transformer级别的性能。这些发展示例了该领域的演变，并展示了2023年作为AI真正繁忙的一年。我们竭尽全力才能跟上语言AI内部和外部的许多发展。因此，这本书探讨的不仅仅是最新的LLM。我们将探讨其他模型（如嵌入模型、仅编码器模型，甚至词袋模型）如何用来增强LLM。

11 Albert Gu and Tri Dao. “Mamba: Linear-time sequence modeling with selective state spaces.” arXiv preprint arXiv:2312.00752 (2023).

12 See “A Visual Guide to Mamba and State Space Models” for an illustrated and visual guide to Mamba as an alternative to the Transformer architecture.

13 Bo Peng et al. “RWKV: Reinventing RNNs for the transformer era.” arXiv preprint arXiv:2305.13048 (2023).

在我们对语言人工智能近期历史的探索中，我们观察到，主要是生成式解码器-only（Transformer）模型通常被称为大型语言模型。特别是当它们被认为是“大型”的时候。然而，在实践中，这似乎是一个相当受限的描述！
如果我们创建一个与GPT-3具有相同功能但小10倍的模型会怎样呢？这样的模型会超出“大型”语言模型的分类吗？

同样，如果我们发布了一个和GPT-4一样大，但只能进行准确文本分类而没有生成能力的模型，它还会被认为是一个大型“语言模型”吗？即使它仍然表示文本，但其主要功能不是语言生成。

这类定义的问题在于我们排除了有能力的模型。我们给一个模型或另一个模型起什么名字并不改变它的行为。

由于“大型语言模型”这个术语的定义随着新模型的发布而不断演变，我们想在这本书中明确它的含义。“大型”是任意的，今天可能被认为是大型模型的东西明天可能就是小型模型。目前对同一事物有很多名称，对我们来说，“大型语言模型”也是那些不生成文本并可以在消费者硬件上运行的模型。

因此，除了涵盖生成式模型外，这本书还将涵盖参数少于10亿且不生成文本的模型。我们将探讨其他模型，如嵌入模型、表示模型，甚至词袋模型如何用来增强LLMs。

传统的机器学习通常涉及为特定任务（如分类）训练模型。如图1-29所示，我们将其视为一个一步过程。

图1-29 传统的机器学习包括一个步骤：为特定目标任务（如分类或回归）训练模型

相比之下，创建大型语言模型（LLMs）通常至少包括两个步骤：

语言建模

第一步，称为预训练，占据了大部分的计算和训练时间。大型语言模型（LLM）在大量互联网文本上进行训练，使模型能够学习语法、上下文和语言模式。这个广泛的训练阶段还没有针对特定任务或应用，仅仅是预测下一个单词。训练出的模型通常被称为基础模型或基本模型。这些模型通常不遵循指令。

微调

第二步，微调或有时称为后期训练，涉及使用先前训练过的模型并在更狭窄的任务上进一步训练它。这使大型语言模型（LLM）能够适应特定任务或表现出期望的行为。例如，我们可以微调一个基础模型，使其在分类任务上表现良好或遵循指令。这节省了大量资源，因为预训练阶段相当昂贵，通常需要数据和计算资源，这些资源对于大多数人和组织来说是难以承受的。例如，Llama 2 已经在包含 2 万亿词元的数据集上进行了训练14。想象一下创建该模型所需的计算量！在第 12 章中，我们将介绍几种在您的数据集上微调基础模型的方法。

任何经过第一步预训练的模型，我们都认为是预训练模型，这也包括微调后的模型。这种两步训练法在图1-30中进行了可视化展示。

图1-30 与传统的机器学习相比，大型语言模型（LLM）训练采用多步骤方法。

可以添加额外的微调步骤，以使模型与用户的偏好进一步一致，我们将在第12章中探讨。

14 Hugo Touvron et al. “Llama 2: Open foundation and fine-tuned chat models.” arXiv preprint arXiv:2307.09288 (2023).

大型语言模型（LLM）的性质使它们适用于广泛的任务。通过文本生成和提示，它几乎就好像你的想象力是极限。为了说明这一点，让我们探索一些常见的任务和技术：

检测顾客留下的评论是积极的还是消极的

这是（监督）分类，可以使用仅编码器和仅解码器模型来处理，既可以使用预训练模型（见第4章），也可以通过微调模型（见第11章）。

开发一个用于查找票据问题中的常见主题的系统

这是（无监督）分类，我们没有预定义的标签。我们可以利用仅编码器模型来执行分类本身，以及仅解码器模型来词元主题（见第5章）。

构建检索和检查相关文件的系统

语言模型系统的一个主要组成部分是它们添加外部信息资源的能力。使用语义搜索，我们可以构建系统，使我们能够轻松访问和查找信息供大型语言模型（LLM）使用（见第8章）。

通过创建或微调自定义嵌入模型来改进您的系统（见第12章）。构建能够利用外部资源（如工具和文档）的LLM聊天机器人

这是一种技术组合，展示了通过额外组件可以发现LLM的真正力量。诸如提示工程（见第6章）、检索增强生成（见第8章）和微调LLM（见第12章）等方法都是LLM难题的一部分。

构建能够根据展示冰箱中产品的图片编写食谱的LLM

这是一个多模态任务，LLM接收图像并对其所看到的内容进行推理（见第9章）。LLM正在适应其他模态，如视觉，这开启了广泛有趣的用例。

大型语言模型（LLM）应用非常令人满意，因为它们的部分边界是由你的想象力所限定的。随着这些模型变得越来越精确，在实践中将它们用于创意用例，如角色扮演和编写儿童书籍，就变得越来越有趣。

大型语言模型（LLM）的影响已经而且可能继续十分显著，因为它们被广泛采用。在我们探索LLM的惊人能力时，记住它们的社会和伦理影响很重要。有几个关键点需要考虑：

偏见与公平性

大型语言模型（LLM）在训练过程中使用了大量可能包含偏见的数据。LLM 可能会从这些偏见中学习，开始复制它们，并可能放大它们。由于 LLM 的训练数据很少共享，除非尝试使用它们，否则很难知道它们可能包含哪些潜在偏见。

透明度与问责制

由于 LLM 的强大能力，有时候很难判断您是在与一个人还是与 LLM 交谈。因此，在没有人类参与的情况下，使用 LLM 与人类互动可能会产生意想不到的后果。例如，医疗领域使用的基于 LLM 的应用程序可能会被视为医疗器械进行监管，因为它们可能会影响患者的健康状况。

生成有害内容

LLM 不一定会生成真实的内容，可能会自信地输出错误的文本。此外，它们还可以用于生成假新闻、文章和其他误导性的信息来源。

知识产权

LLM 的输出是您的知识产权还是 LLM 创建者的知识产权？当输出与训练数据中的短语相似时，知识产权是否属于该短语的作者？在没有访问训练数据的情况下，很难知道 LLM 是否在使用受版权保护的材料。

监管

由于 LLM 的巨大影响，各国政府开始对商业应用进行监管。一个例子是欧洲人工智能法案，该法案规定了包括 LLM 在内的基础模型的开发和部署。

在您开发和使用 LLM 时，我们想强调道德考虑的重要性，并敦促您了解更多关于安全和负责任地使用 LLM 和人工智能系统的信息。

我们迄今为止多次提到的计算资源通常与您系统上可用的GPU（图形处理器）有关。一个强大的GPU（显卡）将使训练和使用大型语言模型（LLM）更加高效和快速。

在选择GPU时，一个重要组成部分是你拥有的VRAM（视频随机存取存储器）数量。这指的是你的GPU上可用的内存量。实际上，你拥有的VRAM越多越好。原因是一些模型如果你没有足够的VRAM根本就无法使用。

因为训练和微调LLMs可能是一个昂贵的过程，从GPU的角度来看，那些没有强大GPU的人通常被称为GPU-poor。这说明了为了训练这些巨大的模型而进行的计算资源争夺。例如，为了创建Llama 2系列模型，Meta使用了A100-80 GB GPU。假设租用这样的GPU每小时需要1.50美元，那么创建这些模型的总成本将超过500万美元！15

不幸的是，没有一条单一的规则可以确定你为一个特定模型需要多少VRAM。这取决于模型的架构和大小、压缩技术、上下文大小、运行模型的后端等。

这本书是为GPU-poor准备的！我们将使用用户可以在没有最昂贵的GPU或大预算的情况下运行的模型。为此，我们将在Google Colab实例中提供所有代码。在撰写本文时，Google Colab的一个免费实例将为你提供一个带有16 GB VRAM的T4 GPU，这是我们建议的最低VRAM量。

与大型语言模型（LLM）进行交互不仅是使用它们的重要部分，也是理解其内部工作原理的关键。由于该领域的许多发展，已经出现了大量用于与LLM通信的技术、方法和软件包。在整本书中，我们打算探讨最常见的交互技术，包括使用专有的（闭源）和公开可用的开源模型。

闭源大型语言模型（LLMs）是指不公开其权重和架构的模型。它们由特定组织开发，底层代码保密。此类模型的示例包括OpenAI的GPT-4和Anthropic的Claude。这些专有模型通常得到大量商业支持，并已在他们的服务中开发和集成。

15 The models were trained for 3,311,616 GPU hours, which refers to the amount of time it takes to train a model on a GPU, multiplied by the number of GPUs available..

你可以通过一个与LLM（大型语言模型）通信的接口来访问这些模型，这个接口被称为API（应用程序编程接口），如图1-31所示。例如，要在Python中使用ChatGPT，你可以使用OpenAI的包来与该服务进行交互，而无需直接访问它。

图1-31 闭源LLM通过接口（API）进行访问。因此，LLM本身的详细信息，包括其代码和架构，不会与用户共享。

专有模型的一个巨大优势是用户不需要拥有强大的GPU就可以使用大型语言模型（LLM）。提供商负责托管和运行模型，并且通常拥有更多的计算资源。关于托管和使用模型，没有必要具备专业知识，这大大降低了进入门槛。此外，由于这些组织的重大投资，这些模型往往比开源同行更具性能。

然而，这样做的缺点是它可能是一项昂贵的服务。提供商管理托管LLM的风险和成本，这通常转化为付费服务。此外，由于无法直接访问模型，没有办法自己对其进行微调。最后，您的数据与提供商共享，这在许多常见用例中是不可取的，例如共享患者数据。

开放大型语言模型（Open LLMs）是与公众共享权重和架构的模型。它们仍然由特定组织开发，但通常会共享用于在本地创建或运行模型的代码——这些代码具有不同的许可级别，可能允许也可能不允许商业使用该模型。Cohere 的 Command R、Mistral 模型、微软的 Phi 以及 Meta 的 Llama 模型都是开放模型的例子。

关于什么真正代表开源模型，目前仍在进行讨论。例如，一些公开共享的模型具有宽松的商业许可证，这意味着该模型不能用于商业目的。对许多人来说，这不是开源的真正定义，开源的定义是使用这些模型不应有任何限制。同样，模型训练所用的数据以及其源代码很少被共享。

你可以下载这些模型，并在你的设备上使用它们，只要你有一个强大的GPU， 可以处理这些类型的模型，如图1-32所示。

图1-32 开源大型语言模型（LLM）直接由用户使用。因此，包括其代码和架构在内的LLM本身的详细信息会与用户共享。

这些本地模型的一个主要优势是，作为用户的您对模型拥有完全的控制权。您可以在不依赖API连接的情况下使用模型，对其进行微调，并通过它处理敏感数据。您不依赖于任何服务，并且对导致模型输出的过程具有完全的透明度。这一优势得到了诸如Hugging Face等大型社区的支持，这些社区展示了协作努力的可能性。

然而，一个缺点是您需要强大的硬件来运行这些模型，而在训练或微调它们时更是如此。此外，设置和使用这些模型需要特定的知识（我们将在本书中详细介绍）。

我们通常更喜欢使用开源模型，只要我们能做到。这种自由让我们可以随意尝试各种选项，探索内部工作机制，并在本地使用模型，可以说比使用专有的大型语言模型（LLM）提供了更多的好处。

与闭源LLM相比，开源LLM需要您使用某些包来运行它们。在2023年，发布了许多不同的包和框架，它们都以各自的方式与LLM互动并加以利用。在成百上千个可能有价值的框架中筛选并不是最愉快的体验。

因此，您甚至可能会错过本书中介绍的您最喜欢的框架！我们并不试图涵盖所有现有的LLM框架（太多，而且还在不断增加），而是旨在为您提供一个利用LLM的坚实基础。这样，在阅读本书后，您可以轻松掌握大多数其他框架，因为它们的工作方式都非常相似。

我们试图实现的直觉是这一目标的重要组成部分。如果您不仅对LLM有直观的理解，而且还在实践中使用常见框架，那么扩展到其他框架应该是一项简单的任务。

更具体地说，我们关注后端包。这些包没有图形用户界面（GUI），旨在高效地加载和运行您的设备上的任何大型语言模型（LLM），例如llama.cpp、LangChain 以及许多框架的核心 Hugging Face Transformers。

我们主要将介绍通过代码与大型语言模型交互的框架。尽管这些框架有助于你学习它们的基本原理，但有时你只是想要一个具有本地LLM的类似ChatGPT的界面。幸运的是，有许多出色的框架可以实现这一点。一些例子包括text-generation-webui、KoboldCpp和LM Studio。

使用语言模型的重要组成部分是选择它们。寻找和下载大型语言模型（LLM）的主要来源是Hugging Face Hub。Hugging Face是著名的Transformers包背后的组织，该包多年来一直推动着语言模型的发展。顾名思义，该包是建立在我们在第5页的“语言AI近期历史”中讨论的transformers框架之上的。

在撰写本文时，您将在Hugging Face平台上找到超过800,000个模型，用于许多不同的目的，从LLM和计算机视觉模型到处理音频和表格数据的模型。在这里，您几乎可以找到任何开源的LLM。

尽管我们将在整本书中探讨各种模型，但让我们从生成模型开始我们的第一行代码。我们在整本书中使用的主要生成模型是Phi-3-mini，这是一个相对较小（38亿参数）但相当高效的模型16。由于其小巧的尺寸，该模型可以在少于8 GB VRAM的设备上运行。如果您执行量化（一种我们将在第7章和第12章进一步讨论的压缩类型），您甚至可以使用少于6 GB的VRAM。此外，该模型采用MIT许可证授权，允许无限制地用于商业目的！

请记住，新的和改进的LLM会频繁发布。为了确保本书保持最新，大多数示例都设计为可以与任何LLM一起使用。我们还会在与本书关联的代码仓库中突出显示不同的模型供您尝试。

让我们开始吧！当您使用LLM时，会加载两个模型：

16 Marah Abdin et al. “Phi-3 technical report: A highly capable language model locally on your phone.” arXiv preprint arXiv:2404.14219 (2024).

• 生成模型本身

• 其底层的词元器

分词器负责在将输入文本输入生成模型之前将其拆分为词元。您可以在Hugging Face网站上找到分词器和模型，只需传递相应的ID即可。在这种情况下，我们使用“microsoft/Phi-3-mini-4k-instruct”作为模型的主要路径。
我们可以使用transformers来加载分词器和模型。请注意，我们假设您有一台NVIDIA GPU（device_map="cuda"），但您也可以选择其他设备。如果您无法使用GPU，可以使用我们在本书的存储库中提供的免费Google Colab笔记本：

from transformers import AutoModelForCausalLM, AutoTokenizer

# Load model and tokenizer

model = AutoModelForCausalLM.from_pretrained(

"microsoft/Phi-3-mini-4k-instruct",

device_map="cuda",

torch_dtype="auto",

trust_remote_code=True,

)

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-3-mini-4k-instruct")

运行代码将开始下载模型，根据您的互联网连接可能需要几分钟的时间。
虽然我们现在已经有足够的条件开始生成文本，但在transformers中有一个很好的技巧可以简化这个过程，即transformers.pipeline。它将模型、分词器和文本生成过程封装到一个函数中：

from transformers import pipeline

# Create a pipeline

generator = pipeline(

"text-generation",

model=model,

tokenizer=tokenizer,

return_full_text=False,

max_new_tokens=500,

do_sample=False

)

以下参数值得一提：

return_full_text

通过将此设置为False，将不会返回提示，而仅返回模型的输出。

max_new_tokens

模型将生成的最大词元数。通过设置限制，我们可以防止过长且笨重的输出，因为某些模型可能会继续生成输出，直到达到其上下文窗口。

do_sample

模型是否使用采样策略来选择下一个词元。通过将其设置为False，模型将始终选择下一个最可能的词元。在第6章中，我们探讨了几个采样参数，这些参数在模型的输出中引入了一些创造力。

要生成我们的第一个文本，让我们指示模型讲一个关于鸡的笑话。为此，我们将提示格式化为一个字典列表，其中每个字典与对话中的一个实体相关。我们的角色是“用户”，我们使用“content”键来定义我们的提示：

# The prompt (user input / query)

messages = [

{"role": "user", "content": "Create a funny joke about chickens."}

]

# Generate output

output = generator(messages)

print(output[0]["generated_text"])

Why don't chickens like to go to the gym? Because they can't crack the eggsistence of it!

就这样！这本书中生成的第一个文本是一个关于鸡的不错笑话。

在这本书的第一章中，我们深入探讨了大型语言模型（LLM）对语言人工智能领域的革命性影响。它显著改变了我们处理翻译、分类、摘要等任务的方式。通过语言人工智能的近期历史，我们探讨了几种类型的大型语言模型的基础，从简单的词袋表示法到使用神经网络的更复杂表示法。

我们讨论了注意力机制作为在模型中编码上下文的一步，这是使大型语言模型（LLM）如此强大的关键组成部分。我们涉及了使用这种惊人机制的两大类模型：表示模型（仅编码器）如BERT和生成模型（仅解码器）如GPT系列模型。在这本书中，这两类都被认为是大型语言模型。

总的来说，本章概述了语言AI领域的概况，包括其应用、社会和伦理影响以及运行这些模型所需的资源。我们最后使用Phi-3生成了我们第一段文本，这本书将贯穿使用这个模型。

在接下来的两章中，您将了解一些基本过程。我们从第2章开始探讨分词和嵌入，这两个部分常常被低估，但在语言AI领域至关重要。第3章将深入研究语言模型，您将发现用于生成文本的确切方法。