解锁数据潜力：信息抽取、数据增强与UIE的完美融合

news2025/1/23 7:07:51

解锁数据潜力：信息抽取、数据增强与UIE的完美融合

1.信息抽取（Information Extraction）

1.1 IE简介

信息抽取是 NLP 任务中非常常见的一种任务，其目的在于从一段自然文本中提取出我们想要的关键信息结构。

举例来讲，现在有下面这样一个句子：

新东方烹饪学校在成都。

我们想要提取这句话中所有有意义的词语，例如：

机构新东方烹饪学校
城市成都

这个关键词提取任务就叫做**命名实体识别（Named Entity Recognition, NER）**任务，文中的「新东方烹饪学校」和「成都」就被称为实体（Entity）。

如果我们还想进一步的知道这些词语之间的关系，例如：

实体 1关系名实体 2
新东方烹饪学校所在地成都

这种提取实体之间关系的任务就叫做**关系抽取（Relation Extraction, RE）**任务。

1.2 信息抽取的几种方法

1.2.1 序列标注（Sequence Labeling）

序列标注通常是指对文中的每一个字（以下简称 token）进行分类，即本质是 token classification 任务。

我们对第一小节中的例子做序列标注任务，得到的结果如下：

新东...学校在成都
B - 机构I - 机构I - 机构 * NI - 机构I - 机构OB - 城市I - 城市

可以看到，我们对句子中的每一个字（token）都打上了一个类别标签，我们期望模型要做的事就是去学会每一个字所属的类别是什么。

Note: 这里用的标注方法是「BIO 标记法」，其中「B-」代表该位置 token 是某一个实体词语（span）的起始 token；「I-」代表该位置 token 处于某一个词语的中间（或结尾），「O」则代表该位置 token 不在任何一个实体词语中。除了「BIO 标记法」外，还有许多其他的标注方式（如 BIOES 等），其本质思路都很类似。

1.2.2 指针网络（Pointer Network）

序列标注模型有一个天然的缺陷，无法解决解决实体重叠（overlap）的问题。

举例来讲，如果今天我们不仅要提取「机构」，还同时要提取「机构类型」，那么我们期望的提取结果应该为：

机构新东方烹饪学校
机构类型学校
城市成都

可以看到，对于「学校」这两个字，即属于「新东方烹饪学校」（机构）这个词，也存在于「学校」（机构类型）这个词，那我们在给这两个字打标签的时候，究竟应该打成哪个类别呢？

新东…学校在成都
B - 机构I - 机构I - 机构？？OB - 城市I - 城市

由此我们可以看到，因为在进行分类时我们通常对一个字（token）只赋予一个标签，这就导致了 token classification 不能很好的解决实体重叠（一字多标签）的复杂情况。

Note: 存在一些技巧可以解决该问题，例如可以从单字单分类（CE）衍生到单字多分类（BCE），这里不展开讨论。

指针网络（Pointer Network）通过分别对每一个实体单独做预测来解决了实体之前的重叠冲突问题。

例如，我们现在要同时预测「机构」和「机构类型」这两个实体，那么我们就可以设计一个多头网络（Multi-Head）来分别预测这两个实体的实体词。

其中，

「机构」实体头中「起始」向量代表这一句话中是「机构」词语的首字（例子中为「新」）；

「机构」实体中「结束」向量代表这一句话中时「机构」词语的尾字（例子中为「校」）。

通过「起始」和「结束」向量中的首尾字索引就能找到对应实体的词语。

可以看到，通过构建多头的任务，指针网络能够分别预测「机构」和「机构类型」中的实体词起始 / 终止位置，即「学校」这个词语在两个任务层中都能被抽取出来。

1.3. UIE —— 基于 prompt 的指针网络

1.3.1 UIE 中的 prompt 是什么？

多头指针网络能够很好的解决实体重叠问题，但缺点在于：不够灵活。

假定今天我们已经通过指针网络训练好了一个提取「机构」、「机构类型」的模型，即将交付时甲方突然提出一个新需求：我们想再多提取一个「机构简称」的属性。

草（一种植物）。

从 2.2 节中的示意图中我们可以看到，每一个实体类型会对应一个单独的网络头。

这就意味着我们不仅需要重标数据，还需要为新属性添加一个新的网络头，即模型结构会随着实体类型个数改变而发生变化。

那，能不能有一种办法去固定住模型的结构，不管今天来多少种类型要识别都能使用同样的模型结构完成呢？

我们思考一下，模型结构变化的部分是和实体类型强绑定的「头」部分。

而不同「头」之间结构其实是完全一样的：一个「起始」向量 + 一个「终止」向量。

既然「头」结构完全一样，我们能不能干脆直接使用一个「头」去提取不同实体类型的信息呢？

不同「头」之间的区别在于它们关注的信息不同：「机构头」只关注「机构」相关的实体词，「城市头」只关注「城市」相关的实体词。

那么我们是不是可以直接在模型输入的时候就告诉模型：我现在需要提取「某个头」的信息。

这个用来告诉模型做具体任务的参数就叫 prompt，我们把它拼在输入中一并喂给模型即可。

通过上图可以看到，我们将不同的「实体类型」作为 prompt 参数喂给模型，用于「激活」模型参数跟当前「实体类型」相关的参数，从而输出不同的抽取结果。

Note: 「通过一个输入参数去激活一个大模型中的不同参数，从而完成不同任务的思路」并不是首次出现，在 meta-learning 中也存在相关的研究，这里的 prompt 参数和 meta-parameter 有着非常类似的思路。

通过引入 prompt，UIE 也能很方便的解决实体之间的关系抽取（Relation Extraction）任务，例如：

1.3.2 UIE 的实现

看完了基本思路，我们来一起看看 UIE 是怎么实现的吧。

  1. 模型部分

UIE 的模型代码比较简单，只需要在 encoder 后构建一个起始层和一个结束层即可：

class UIE(nn.Module):

    def __init__(self, encoder):
        """
        init func.
        Args:
            encoder (transformers.AutoModel): backbone, 默认使用 ernie 3.0
        
        Reference:
            https://github.com/PaddlePaddle/PaddleNLP/blob/a12481fc3039fb45ea2dfac3ea43365a07fc4921/model_zoo/uie/model.py
        """
        super().__init__()
        self.encoder = encoder
        hidden_size = 768
        self.linear_start = nn.Linear(hidden_size, 1)
        self.linear_end = nn.Linear(hidden_size, 1)
        self.sigmoid = nn.Sigmoid()

    def forward(
        self,
        input_ids: torch.tensor,
        token_type_ids: torch.tensor,
        attention_mask=None,
        pos_ids=None,
    ) -> tuple:
        """
        forward 函数，返回开始/结束概率向量。
        Args:
            input_ids (torch.tensor): (batch, seq_len)
            token_type_ids (torch.tensor): (batch, seq_len)
            attention_mask (torch.tensor): (batch, seq_len)
            pos_ids (torch.tensor): (batch, seq_len)
        Returns:
            tuple:  start_prob -> (batch, seq_len)
                    end_prob -> (batch, seq_len)
        """
        sequence_output = self.encoder(
            input_ids=input_ids,
            token_type_ids=token_type_ids,
            position_ids=pos_ids,
            attention_mask=attention_mask,
        )["last_hidden_state"]
        start_logits = self.linear_start(sequence_output)       # (batch, seq_len, 1)
        start_logits = torch.squeeze(start_logits, -1)          # (batch, seq_len)
        start_prob = self.sigmoid(start_logits)                 # (batch, seq_len)
        end_logits = self.linear_end(sequence_output)           # (batch, seq_len, 1)
        end_logits = torch.squeeze(end_logits, -1)              # (batch, seq_len)
        end_prob = self.sigmoid(end_logits)                     # (batch, seq_len)
        return start_prob, end_prob
  1. ** 训练部分**

训练部分主要关注一下 loss 的计算即可。

由于每一个 token 都是一个二分类任务，因此选用 BCE Loss 作为损失函数。

分别计算起始 / 结束向量的 BCE Loss 再取平均值即可，如下所示：

criterion = torch.nn.BCELoss()
...

start_prob, end_prob = model(input_ids=batch['input_ids'].to(args.device),
                                        token_type_ids=batch['token_type_ids'].to(args.device),
                                        attention_mask=batch['attention_mask'].to(args.device))
start_ids = batch['start_ids'].to(torch.float32).to(args.device)    # (batch, seq_len)
end_ids = batch['end_ids'].to(torch.float32).to(args.device)        # (batch, seq_len)
loss_start = criterion(start_prob, start_ids)                       # 起止向量loss -> (1,)
loss_end = criterion(end_prob, end_ids)                             # 结束向量loss -> (1,)
loss = (loss_start + loss_end) / 2.0                                # 求平均 -> (1,)
loss.backward()
...

该项目将借用transformers库来实现paddlenlp版本中UIE，已实现：

  • UIE 预训练模型自动下载

  • UIE Fine-Tuning 脚本

  • 信息抽取、事件抽取数据增强（DA）策略（提升 recall）

  • 信息抽取、事件抽取自分析负例生成（Auto Neg）策略（提升 precision）

  • 环境安装

本项目基于 pytorch + transformers 实现，运行前请安装相关依赖包：

pip install -r ../requirements.txt


torch
transformers==4.22.1
datasets==2.4.0
evaluate==0.2.2
matplotlib==3.6.0
rich==12.5.1
scikit-learn==1.1.2
requests==2.28.1

2. 数据集准备

项目中提供了一部分示例数据，数据来自DuIE数据集中随机抽取的100条，数据在 data/DuIE 。

若想使用自定义数据训练，只需要仿照示例数据构建数据集构建prompt和content即可：

{"content": "谭孝曾是谭元寿的长子，也是谭派第六代传人", "result_list": [{"text": "谭元寿", "start": 4, "end": 7}], "prompt": "谭孝曾的父亲"}
{"content": "在圣保罗书院中学毕业后，曾钰成又在中学会考及大学入学考试中名列全港前十名", "result_list": [{"text": "曾钰成", "start": 12, "end": 15}], "prompt": "人物"}
{"content": "在圣保罗书院中学毕业后，曾钰成又在中学会考及大学入学考试中名列全港前十名", "result_list": [{"text": "圣保罗书院", "start": 1, "end": 6}], "prompt": "曾钰成的毕业院校"}
...

doccano导出数据如下所示：

{"text": "谭孝曾是谭元寿的长子，也是谭派第六代传人", "entities": [{"id": 42517, "label": "人物", "start_offset": 0, "end_offset": 3, "text": "谭孝曾"}, {"id": 42518, "label": "人物", "start_offset": 4, "end_offset": 7, "text": "谭元寿"}], "relations": [{"id": 0, "from_id": 42517, "to_id": 42518, "type": "父亲"}]}
...

可以运行 doccano.py 来将标注数据（doccano）转换为训练数据（prompt）。

3. 模型训练

修改训练脚本 train.sh 里的对应参数, 开启模型训练：

python train.py \
    --pretrained_model "uie-base-zh" \
    --save_dir "checkpoints/DuIE" \
    --train_path "data/DuIE/train.txt" \
    --dev_path "data/DuIE/dev.txt" \
    --img_log_dir "logs/" \
    --img_log_name "UIE Base" \
    --batch_size 32 \
    --max_seq_len 256 \
    --learning_rate 5e-5 \
    --num_train_epochs 20 \
    --logging_steps 10 \
    --valid_steps 100 \
    --device cuda:0

正确开启训练后，终端会打印以下信息：

...
  0%|          | 0/1 [00:00<?, ?ba/s]
100%|██████████| 1/1 [00:00<00:00,  6.91ba/s]
100%|██████████| 1/1 [00:00<00:00,  6.89ba/s]
global step 10, epoch: 1, loss: 0.00244, speed: 2.08 step/s
global step 20, epoch: 1, loss: 0.00228, speed: 2.17 step/s
global step 30, epoch: 1, loss: 0.00191, speed: 2.17 step/s
global step 40, epoch: 1, loss: 0.00168, speed: 2.14 step/s
global step 50, epoch: 1, loss: 0.00149, speed: 2.11 step/s
global step 60, epoch: 1, loss: 0.00138, speed: 2.15 step/s
global step 70, epoch: 2, loss: 0.00123, speed: 2.29 step/s
global step 80, epoch: 2, loss: 0.00112, speed: 2.12 step/s
global step 90, epoch: 2, loss: 0.00102, speed: 2.15 step/s
global step 100, epoch: 2, loss: 0.00096, speed: 2.15 step/s
Evaluation precision: 0.80851, recall: 0.84444, F1: 0.82609
best F1 performence has been updated: 0.00000 --> 0.82609
...

在 logs/UIE Base.png 文件中将会保存训练曲线图：

4. 模型预测

完成模型训练后，运行 inference.py 以加载训练好的模型并应用：

 if __name__ == "__main__":
    from rich import print
    sentences = [
        '谭孝曾是谭元寿的长子，也是谭派第六代传人。'
    ]
    
    # NER 示例
    for sentence in sentences:
        ner_example(
            model,
            tokenizer,
            device,
            sentence=sentence, 
            schema=['人物']
        )

    # SPO 抽取示例
    for sentence in sentences:
        information_extract_example(
            model,
            tokenizer,
            device,
            sentence=sentence, 
            schema={
                    '人物': ['父亲'],
                }
        )

NER和事件抽取在schema的定义上存在一些区别：

  • NER的schema结构为 List 类型，列表中包含所有要提取的 实体类型。

  • 信息抽取的schema结构为 Dict 类型，其中 Key 的值是所有 主语，Value 对应该主语对应的所有 属性。

  • 事件抽取的schema结构为 Dict 类型，其中 Key 的值是所有 事件触发词，Value 对应每一个触发词下的所有 事件属性。

python inference.py

得到以下推理结果：

[+] NER Results: 
{
    '人物': ['谭孝曾', '谭元寿']
}

[+] Information-Extraction Results: 
{
    '谭孝曾': 
            {
                '父亲': ['谭元寿']
            }, 
    '谭元寿': {
                '父亲': []
            }
}

5. 数据增强（Data Augmentation）

信息抽取/事件抽取的数据标注成本较高，因此我们提供几种针对小样本下的数据增强策略。

包括：

  • 正例：SwapSPO、Mask Then Fill

  • 负例：自分析负例生成（Auto Neg）

所有实现均在 Augmenter.py 中，为了便于使用，我们将其封装为 web 服务以方便调用：

平台使用 streamlit 搭建，因此使用前需要先安装三方包：

pip install streamlit==1.17.0

随后，运行以下命令开启标注平台：

streamlit run web_da.py --server.port 8904

在浏览器中访问 ip + 端口（默认8904）即可打开标注平台。


5.1 正例：SwapSPO 策略介绍

Swap SPO 是一种基于规则的简单数据增强策略。

将同一数据集中相同 P 的句子分成一组，并随机交换这些句子中的 S 和 O。

  • 策略输入：

《夜曲》 是 周杰伦 作曲 的一首歌。

《那些你很冒险的梦》 是当下非常火热的一首歌，作曲 为 林俊杰。

  • Swap SPO 后的输出：

《夜曲》 是当下非常火热的一首歌，作曲 为 周杰伦。

5.2 正例：Mask Then Fill 策略介绍

Mask Then Fill 是一种基于生成模型的信息抽取数据增强策略。

对于一段文本，我们其分为「关键信息段」和「非关键信息段」，包含关键词片段称为「关键信息段」。

下面例子中标粗的为 关键信息片段，其余的为 非关键片段。

大年三十 我从 北京 的大兴机场 飞回 了 成都。

我们随机 [MASK] 住一部分「非关键片段」，使其变为：

大年三十 我从 北京 [MASK] 飞回 了 成都。

随后，将该句子喂给 filling 模型（T5-Fine Tuned）还原句子，得到新生成的句子：

大年三十 我从 北京 首都机场作为起点，飞回 了 成都。

Note: filling 模型是一个生成模型，示例中我们使用中文 T5 微调得到 DuIE 数据集下的模型（暂未开源）。您可以参考 这里 微调一个更适合您自己数据集下的 filling 模型，并将训练好的模型路径填写至 web_da.py 中对应的位置。

...
device = 'cpu'                                                 # 指定设备
generated_dataset_height = 800                                 # 生成样本展示高度                
max_show_num = 500                                             # 生成样本最大保存行数
max_seq_len = 128                                              # 数据集单句最大长度
batch_size = 128                                               # 负例生成时的batch_size

filling_model_path = '这里'                                     # fine-tuned filling model
...

5.3 负例：自分析负例生成（Auto Neg）策略介绍

信息抽取中通常会存在 P混淆 的问题，例如：

王文铭，76岁，是西红市多鱼村的大爷。

当我们同时生成 年龄 和 去世年龄 这种非常近义的 prompt 进行抽取时，可能会出现 误召回 的情况：

prompt: 王文铭的年龄     answer: 76岁        -> 正确
prompt: 王文铭的去世年龄  answer: 76岁        -> 错误

因此，我们基于一个已训练好的模型，自动分析该模型在 训练集 下存在哪些易混淆的 P，并为这些 P 自动生成负例，以提升模型的 Precision 指标。

将新生成的负例加入 原始训练数据集，重新训练模型即可。

5.4 各种 DA 策略的实验效果

在 DuIE 100 条数据下测试，各种 DA 策略的效果如下所示（以下 P / R / F1 均取 F1 最高的 Epoch 指标）：

DA PolicyPrecision（best）Recall（best）F1（best）
baseline0.80850.84440.8260
Swap SPO0.8409（↑）0.82220.8314（↑）
Auto Neg0.8297（↑）0.8666（↑）0.8478（↑）
Mask Then Fill0.9000（↑）1.0000（↑）0.9473（↑）
Mask Then Fill & Auto Neg0.9777（↑）0.9777（↑）0.9777（↑）

  • 原作者实现地址：https://github.com/universal-ie/UIE

  • paddle官方：https://github.com/PaddlePaddle/PaddleNLP/tree/develop/model_zoo/uie

  • https://github.com/HarderThenHarder/transformers_tasks/blob/main/UIE

更多优质内容请关注公号：汀丶人工智能；会提供一些相关的资源和优质文章，免费获取阅读。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/895033.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

大数据及软件教学与实验专业实训室建设方案

大数据及软件教学与实验专业实训室建设方案

一 、系统概述 大数据及软件教学与实验大数据及软件教学与实验在现代教育中扮演重要角色&#xff0c;这方面的教学内容涵盖了大数据处理、数据分析、数据可视化和大数据应用等多个方面。以下是大数据及软件教学与实验的一般内容&#xff1a;1. 数据基础知识&#xff1a;教授学生…
阅读更多...
5、flink任务中可以使用哪些转换算子（Transformation）

5、flink任务中可以使用哪些转换算子（Transformation）

1、什么是Flink中的转换算子 在使用 Flink DataStream API 开发流式计算任务时&#xff0c;可以将一个或多个 DataStream 转换成新的 DataStream&#xff0c;在应用程序中可以将多个数据转换算子合并成一个复杂的数据流拓扑图。 2、常用的转换算子 Flink提供了功能各异的转换算…
阅读更多...
尚硅谷大数据项目《在线教育之离线数仓》笔记002

尚硅谷大数据项目《在线教育之离线数仓》笔记002

视频地址&#xff1a;尚硅谷大数据项目《在线教育之离线数仓》_哔哩哔哩_bilibili 目录 P025 P026 P027 P028 P029 P030 P031 P032 P033 P034 P035 P036 P037 P038 P025 在Hive所在节点部署Spark P026 3&#xff09;Hive on Spark测试 &#xff08;1&#xff09;…
阅读更多...
kali linux查看局域网下所有IP，并对指定IP攻击

kali linux查看局域网下所有IP，并对指定IP攻击

kali linux查看局域网下所有IP&#xff0c;并对指定IP实施局域网内攻击 首先我们打开我们熟悉的kali linux操作系统&#xff0c;利用指令&#xff1a; ifconfig来确认本机的ip地址 确认了本机的ip地址之后&#xff0c;利用一下的指令查看局域网下所有ip: fping -g 本机IP地址…
阅读更多...
SpringMVC-1-解密Spring MVC：构建优雅、灵活的Web应用的秘诀

SpringMVC-1-解密Spring MVC：构建优雅、灵活的Web应用的秘诀

今日目标 能够编写SpringMVC入门案例 了解SpringMVC原理 1. SpringMVC介绍 1.1 SpringMVC概述 思考:SpringMVC框架有什么优点&#xff1f; SpringMVC是一种基于Java实现MVC模型的轻量级Web框架 优点 使用简单&#xff0c;开发便捷&#xff08;相比于Servlet&#xff09; 天…
阅读更多...
Java进阶篇--迭代器模式

Java进阶篇--迭代器模式

目录 同步迭代器&#xff08;Synchronous Iterator&#xff09;&#xff1a; Iterator 接口 常用方法&#xff1a; 注意&#xff1a; 扩展小知识: 异步迭代器&#xff08;Asynchronous Iterator&#xff09;&#xff1a; 常用的方法 注意&#xff1a; 总结&#xff1a…
阅读更多...
【S32K 进阶之旅】S32K 芯片的解锁

【S32K 进阶之旅】S32K 芯片的解锁

在使用 S32K1xx MCU 的过程中&#xff0c;因为某些不当操作导致芯片被锁、加密的情况偶有发生&#xff0c;在此总结一篇如何解锁芯片的文档&#xff0c;希望能够帮到有需要的人。 1. S32K 芯片被锁的现象及原因分析1&#xff09;在S32K 系列 MCU 开发和生产过程中&#xff…
阅读更多...
【Unity细节】Unity中的层级LayerMask

【Unity细节】Unity中的层级LayerMask

&#x1f468;‍&#x1f4bb;个人主页&#xff1a;元宇宙-秩沅 hallo 欢迎 点赞&#x1f44d; 收藏⭐ 留言&#x1f4dd; 加关注✅! 本文由 秩沅 原创 &#x1f636;‍&#x1f32b;️收录于专栏&#xff1a;unity细节和bug &#x1f636;‍&#x1f32b;️优质专栏 ⭐【…
阅读更多...
元宇宙是什么？有哪些应用方向？一文了解元宇宙虚拟展厅

元宇宙是什么？有哪些应用方向？一文了解元宇宙虚拟展厅

引言&#xff1a; 在当今数字科技飞速发展的时代&#xff0c;元宇宙作为一个令人向往的概念正逐渐进入大众的视野。那么&#xff0c;什么是元宇宙&#xff1f;元宇宙又有哪些应用方向呢&#xff1f;元宇宙虚拟展厅又有哪些优势呢&#xff1f; 一&#xff0e;元宇宙是什么 元宇…
阅读更多...
eNSP 打开警告：请将eNSP相关应用程序添加到windows firewall的允许程序列表，并允许其在公用网络上运行！

eNSP 打开警告：请将eNSP相关应用程序添加到windows firewall的允许程序列表，并允许其在公用网络上运行！

文章目录 1 警告截图2 解决办法 1 警告截图 2 解决办法 思路&#xff1a;按照警告的提示信息&#xff0c;将 eNSP 相关应用添加到 windows firewall&#xff08;防火墙&#xff09;的允许程序列表&#xff0c;并允许其在公用网络上运行&#xff01;此处以 Win 10 为例
阅读更多...
怎么把人物抠到一个视频里？这个视频抠像方法一看就会

怎么把人物抠到一个视频里？这个视频抠像方法一看就会

在视频中&#xff0c;人物抠像可以用于创建有趣的视觉效果&#xff0c;例如将人物放置在不同的场景中&#xff0c;或者创建动画效果。此外&#xff0c;它还可以用于制作特效&#xff0c;例如将人物的外观更改为其他形象&#xff0c;或者在人物移动时添加轨迹效果。那么怎么把人…
阅读更多...
Eclipse常见的使用技巧(快捷键)大全

Eclipse常见的使用技巧(快捷键)大全

常用设置&#xff0c;非常建议 1.代码提示设置 2.快捷键设置 代码编写技巧 注意&#xff1a; 如果你设置了代码提示&#xff0c;那么下面操作快捷方式回车即可生成&#xff0c;不必alt/ 换行 ShiftEnter回车&#xff0c;不管光标在哪里都会换行&#xff01;非常好用&…
阅读更多...
向日葵如何截图

向日葵如何截图

场景 向日葵远程时&#xff0c;有时需要截图&#xff0c;但是客户电脑上没有qq、微信等软件提供快捷截图。 怎么办呢? 解决方案 其实向日葵肯定支持这些功能的。 设置 | 热键设置 | 勾选 远控其他设备时&#xff0c;可输入热键进行以下操作。 如果&#xff1a; altq 切换…
阅读更多...
性能测试-并发用户数估算（超细整理）

性能测试-并发用户数估算（超细整理）

前言 并发用户数&#xff1a;是指现实系统中操作业务的用户&#xff0c;在性能测试工具中&#xff0c;一般称为虚拟用户数(Virutal User)。 并发用户数和注册用户数、在线用户数的概念不同。 并发用户数一定会对服务器产生压力的&#xff1b; 而在线用户数只是 ”挂” 在系统…
阅读更多...
一万字关于java数据结构堆的讲解,让你从入门到精通

一万字关于java数据结构堆的讲解,让你从入门到精通

目录 java类和接口总览 队列(Queue) 1. 概念 2. 队列的使用 以下是一些常用的队列操作&#xff1a; 1.入队操作 2.出队操作 3.判断队列是否为空 4.获取队列大小 5.其它 优先级队列(堆) 1. 优先级队列概念 Java中的PriorityQueue具有以下特点 2.常用的PriorityQue…
阅读更多...
Doris的执行计划生成、分发与执行

Doris的执行计划生成、分发与执行

目录 一、执行计划的生成 二、执行计划的分发 三、执行计划的执行 一、执行计划的生成 在Doris的FE端&#xff0c;与大多数数据库系统一样&#xff0c;要从SQL或某种http请求&#xff0c;生成执行计划&#xff0c;从SQL生成&#xff0c;一开始是“抽象语法树”&#xff08;…
阅读更多...
FreeRTOS 从入门到精通-任务调度

FreeRTOS 从入门到精通-任务调度

初写FreeRTOS 从入门到精通系列文章之初&#xff0c;笔者只是当作可以随时回顾的学习笔记来写&#xff0c;并没有想到这些偏技术的文章收获了意料之外的阅读量和关注。首先当然很欣喜自己的文章能够得到了读者们的认可&#xff0c;但同时也有种使命感&#xff0c;既期望启迪并与…
阅读更多...
模型评估的常用指标

模型评估的常用指标

模型评估的指标 模型是在大量的数据集上训练而来的，无论一个模型是从零训练的还是基于某一个模型，通过微调方法得到的，靠人工评价模型的效果都是异常困难的。那么要想客观的、自动化的评价一个LLM模型，就需要能够选择正确评估模型效果的指标或者基准测试，来客观和自动化的…
阅读更多...
C语言刷题指南（二）

C语言刷题指南（二）

&#x1f4d9;作者简介&#xff1a; 清水加冰&#xff0c;目前大二在读&#xff0c;正在学习C/C、Python、操作系统、数据库等。 &#x1f4d8;相关专栏&#xff1a;C语言初阶、C语言进阶、C语言刷题训练营、数据结构刷题训练营、有感兴趣的可以看一看。 欢迎点赞 &#x1f44d…
阅读更多...
腾讯开启2024校招，主要招聘5大类岗位

腾讯开启2024校招，主要招聘5大类岗位

近日&#xff0c;腾讯的大动作一个接一个&#xff0c;前脚刚公布2023上半年财报&#xff0c;后脚就开启了2024校招&#xff0c;不得不让人感叹腾讯真速度&#xff01; 此次招聘对象为毕业时间在2023年9月至2024年8月期间的2024届应届毕业生&#xff0c;覆盖北上广深等多个城市…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023