【学习笔记】数据结构(十一)

news2025/1/9 15:59:34

外部排序

文章目录

  • 外部排序
    • 11.1 外存信息的存取
    • 11.2 外部排序的方法
    • 11.3 多路平衡归并的实现 - 增加k
    • 11.4 置换-选择排序 - 减少m
    • 11.5 最佳归并树

外部排序 指的是大文件的排序,即待排序的记录存储在外存储器 上,在排序过程中需进行多次的内、外存之间的交换。

11.1 外存信息的存取

计算机一般有 两种存储器: 内存储器(主存)和外存储器(辅存)。

  • 内存的信息可随机存取,且存取速度快,但价格贵、容量小。

  • 外存储器包括磁带和磁盘(或磁鼓),前者为顺序存取的设备,后者为随机存取的设备。

1、磁带信息的存取

磁带是薄薄涂上一层磁性材料的一条窄带。

磁带不是连续运转的设备,而是一种启停设备(启停时间约为 5 毫秒),它可以根据读 /写的需要随时启动和停止。由千读/写信息应在旋转稳定时进行,而磁带从静止状态启 动后,要经过一个加速的过程才能达到稳定状态;反之,在读/写结束后,从运动状态到完 全停止,要经过一个减速的过程。因此,在磁带上相邻两组字符组(记录)之间要留一空白 区,叫做 间隙 IRG(lnter Record Gap)

在每次写信息时, 将若干个字符组合并成一块后一次写入磁带。 于是,每个字符组间就没有 IRG,而变成 块间的间隙 IBG(lnter Block Gap) , 从而可以减少IRG 的数目,提高磁带的利用率,块的长度大于 IBG 的长度。

在这里插入图片描述

成块还可减少I/O操作。 因为一次1/0操作可把整个物理块都读到内存缓冲区中. 然后再从缓冲区中取出所需要的信息(一个字符组)。每当要读一个字符组时,首先要查 缓冲区中是否已有,若有,则不必执行I/O操作,直接从缓冲区读取即可。

在磁带上 读写一块信息所需的时间 由两部分组成: TI/O = ta + n · tw

  • ta 为延迟时间,读/写头到达传输信息所在物理块起始位置所需时间;
  • tw 为传输一 个字符的时间。

缺点:

由于磁带是 顺序存取 的设备,则读/写信息之前先要进行顺序查找,并且当读/写头位于磁带尾端,而要读的信息在磁带始端时,尚需使磁带倒转运动。这是顺序存取设备的主要缺点,它使检索和修改信息很不方便。

2、磁盘信息的存取

磁盘是一种 直接存取 的存储设备(DASO)。它的容量大、速度快,存 取速度比磁带快得多。

磁盘可以是单片的,也可以由若干盘片组成盘组。每一片上有两个面。以 6 片盘组为例,由于最顶上和最低下盘片的外侧面不存信息,所以总共只有10个面可用来保存信 息。盘片装在一个主轴上,并绕主轴高速旋转,当磁道在读/写头下通过时,便可以进行信息的读/写。

把磁盘分为 固定头盘和活动头盘

  • 固定头盘的每 一道上都有独立的磁头,它是固定不动的,专负责读/写某一 道上的信息。
  • 活动头盘的磁头是可移动的。盘组也是可变的。一个 面上只有一个磁头,它可以从该面上的一道移动到另一道。 磁头装在一个动臂上,不同面上的磁头是同时移动的,并处 于同一圆柱面上。各个面上半径相同的磁道组成一个圆柱 面,圆柱面的个数就是盘片面上的磁道数。

在这里插入图片描述

在磁盘上标明一个具体信息必须用一个三维地址:柱面号、盘面号、块号

  • 柱面号确定读/写头的径向运动,
  • 块号确定信息在盘片圆圈上的位置。

在磁盘上读写一块信息步骤:

  • 首先必须找柱面,移动臂使磁头移 动到所需柱面上(称为定位或寻查);
  • 然后等待要访问的信息转到磁头之下;
  • 最后,读/写所需信息。

在磁盘上读写一块信息所需的时间 由 3 部分组成: TI/O = tseek + tla + twm

  • tseek 为寻查时间(seek time) , 即读/写头定位的时间;
  • tla 为等待时间(latency time), 即等待信息块的初始位置旋转到读写头下的时间;
  • twm 为传输时间(transmission time)

内外存之间的数据交换原理:

在这里插入图片描述

11.2 外部排序的方法

外部排序基本上由两个相对独立的阶段组成:

  • 按可用内存大小,将外存上含 n 个记录的文件分成若干长度为 l 的子文件或段(segment),依次读入内存并利用有效的内 部排序方法对它们进行排序,并将排序后得到的有序子文件重新写入外存,通常称这些有序子文件为归并段或顺串(run);
  • 对这些归并段进行逐趟归并,使归并段(有序的子文件)逐渐由小至大,直至得到整个有序文件为止

在这里插入图片描述

外部排序所需总的时间=内部排序(产生初始归并段)所需的时间(m * tIS) + 外存信息读写的时间(d * tIO) + 内部归并所需的时间(s * utmg

  • tIS:为得到一个初始归并段进行内部排序所需时间的均值;
  • m:为经过内部排序之后得到的初始归并段的个数I
  • tIO:是进行一次外存 读/写时间的均值;取决于所用的外存设备;
  • d:为总的读/写次数
  • utmg:对u 个记录进行内部归并所需时间;
  • s :为归并的趟数;

tIO 比 tmg大得多,所以提高外排的效率应主要 着眼于减少外存信息读写的次数d

假设在每个物理块可以容纳 200个记录,则每一趟归并需进行 50 次“读” 和 50 次“写"’

利用 2-路归并:4 趟 * 100 + 100 内部排序 = 500 次的读/写。

利用 5-路归并:2 趟 * 100 + 100 内部排序 = 300 次的读/写。

可见,对同一文件而言,进行外排时所需读/写外存的次数和归并的趟数 s成正比。

对m个初始归并段进行k-路平衡归并时,归并的趟数 s = ⌊ logkm ⌋ —— 可见,若增加 K 或减少m 便能减少s

若能增加初始归并段的长度则可减少初始归并段数量m

例子:

在这里插入图片描述

11.3 多路平衡归并的实现 - 增加k

每一趟从m个归并段得到 ⌈m/k⌉ 归并段。这种归并方法称为 k-路平衡归并

使用k路平衡归并策略,选出一个最小元素需要对比关键字(k-1)次,所以增加k会导致内部归并所需时间增加

eg:8路平衡归并,从公企归并段中选出一个最小元素需要对比关键字7次

在这里插入图片描述

“败者树"(Tree of Loser):可视为一棵完全二叉树)(根节点上多了一个结点)。k个叶结点分别是当前参加比较的元素,非叶子结点用来记忆左右子树中的“失败者”,而让胜者往上继续进行比较,一直到根结点。目的- 使k元素的关键字对比次数变少

在这里插入图片描述

#define _CRT_SECURE_NO_WARNINGS 1  // 禁用 Visual Studio 的安全警告(例如 scanf 的安全问题)
#include <stdio.h>
#include <stdlib.h>
#include <limits.h>

// 定义状态码,用于表示函数执行的成功或失败
#define OK 1
#define OVERFLOW -2
#define ERROR -1

// 栈的初始大小
#define STACK_INIT_SIZE 4

// 定义归并段的数量
#define K 5

// 定义最大键值和最小键值
#define MAXKEY INT_MAX  // 表示归并段结束的特殊键值
#define MINKEY INT_MIN  // 用于初始化败者树的虚拟键值

// 定义状态类型
typedef int Status;

// 定义栈的结构体
typedef struct {
    int* base;      // 栈的基地址(栈底)
    int* top;       // 栈顶指针
    int stacksize;  // 栈的当前容量
} SqStack;

// 定义键值类型
typedef int KeyType;

// 定义败者树,大小为 K
typedef int LoserTree[K];

// 定义外部节点结构体
typedef struct {
    KeyType key;  // 外部节点的键值
} ExNode, External[K + 1];  // 外部节点数组,大小为 K + 1(用于败者树)

/**
 * 初始化栈
 * @param S 栈的指针
 * @return 成功返回 OK,失败返回 OVERFLOW
 */
Status InitStack(SqStack* S) {
    S->base = (int*)malloc(STACK_INIT_SIZE * sizeof(int));  // 分配栈的初始内存
    if (!S->base)
        exit(OVERFLOW);  // 内存分配失败,退出程序
    S->top = S->base;  // 初始化栈顶指针为栈底
    S->stacksize = STACK_INIT_SIZE;  // 初始化栈的容量
    return OK;  // 初始化成功
}

/**
 * 向栈中压入元素
 * @param S 栈的指针
 * @param e 要压入的元素
 * @return 成功返回 OK,失败返回 OVERFLOW
 */
Status Push(SqStack* S, int e) {
    // 如果栈已满,则需要扩容
    if (S->top - S->base >= S->stacksize) {
        int* new_base = (int*)realloc(S->base, (S->stacksize + STACK_INIT_SIZE) * sizeof(int));  // 重新分配内存
        if (!new_base) {
            return OVERFLOW;  // 内存分配失败,返回错误
        }
        S->base = new_base;  // 更新栈底指针
        S->stacksize += STACK_INIT_SIZE;  // 更新栈的容量
    }
    *S->top++ = e;  // 将元素压入栈顶,并移动栈顶指针
    return OK;  // 成功返回 OK
}

/**
 * 从栈中弹出元素
 * @param S 栈的指针
 * @param e 用于存储弹出元素的变量
 * @return 成功返回 OK,失败返回 ERROR
 */
Status Pop(SqStack* S, int* e) {
    if (S->top == S->base) {
        return ERROR;  // 如果栈为空,返回错误
    }
    *e = *(--S->top);  // 弹出栈顶元素,并移动栈顶指针
    return OK;  // 成功返回 OK
}

/**
 * 调整败者树的某个节点
 * @param ls 败者树
 * @param b 外部节点数组
 * @param s 当前要调整的节点索引
 */
void Adjust(LoserTree ls, External b, int s) {
    int t, tmp;
    // 计算当前节点的父节点索引
    t = (s + K) / 2;  // 公式:(s + K) / 2,用于找到父节点索引
    // 从当前节点向上调整到根节点
    while (t > 0) {
        // 如果当前节点的值大于父节点的值
        if (b[s].key > b[ls[t]].key) {
            tmp = s;  // 交换当前节点和父节点
            s = ls[t];
            ls[t] = tmp;
        }
        t = t / 2;  // 继续向上调整
    }
    ls[0] = s;  // 更新胜者节点(ls[0] 始终存储当前胜者)
}

/**
 * 创建败者树
 * @param ls 败者树
 * @param b 外部节点数组
 */
void CreateLoserTree(LoserTree ls, External b) {
    int i;
    // 初始化外部节点的虚拟节点(用于处理特殊情况)
    b[K].key = MINKEY;  // 第 K 个外部节点的键值设置为 MINKEY
    // 初始化败者树的叶子节点(归并段的索引)
    for (i = 0; i < K; i++) {
        ls[i] = K;  // 初始化败者树的叶子节点为虚拟节点
    }
    // 从最后一个叶子节点开始调整败者树
    for (i = K - 1; i >= 0; i--) {
        Adjust(ls, b, i);  // 调整败者树
    }
}

/**
 * K 路归并
 * @param ls 败者树
 * @param b 外部节点数组
 * @param S 栈数组
 */
void K_merge(LoserTree ls, External b, SqStack* S) {
    int i, q;
    // 从每个栈中弹出第一个元素作为初始值
    for (i = 0; i < K; i++) {
        Pop(&S[i], &b[i].key);  // 从第 i 个栈中弹出第一个元素
    }
    // 创建败者树
    CreateLoserTree(ls, b);
    // 当胜者节点的值不为 MAXKEY 时,继续归并
    while (b[ls[0]].key != MAXKEY) {
        q = ls[0];  // 获取当前胜者节点(ls[0] 始终存储胜者索引)
        printf("%d ", b[q].key);  // 输出胜者节点的值
        // 从胜者节点的栈中弹出下一个元素
        Pop(&S[q], &b[q].key);
        // 调整败者树
        Adjust(ls, b, q);
    }
    printf("\n");  // 输出换行符
}

/**
 * 主函数
 */
void main() {
    int i, j;
    int e;
    SqStack S[K];  // 每个归并段对应一个栈
    LoserTree ls;  // 败者树
    External b;  // 外部节点数组
    // 初始化每个归并段的栈
    for (i = 0; i < K; i++) {
        InitStack(&S[i]);  // 初始化第 i 个栈
        Push(&S[i], MAXKEY);  // 将 MAXKEY 压入栈底,表示归并结束
        // 输入 3 个元素
        for (j = 0; j < 3; j++) {
            printf("S[%d] push: ", i);
            scanf("%d", &e);  // 从标准输入读取一个整数
            Push(&S[i], e);  // 将读取的整数压入栈中
        }
    }
    // 执行 K 路归并
    K_merge(ls, b, S);
}

在这里插入图片描述

11.4 置换-选择排序 - 减少m

m是外部文件经过内部排序之后 得到的初始归并段的个数,

m = ⌈n/l⌉, 其中 n 为外部文件中的记录数,l 为初始归并段中的记录数

注意事项:

  • 当归并段为空时,选择工作区内最小数
  • 当归并段不为空时,选择工作区内【大于归并段最大值的-归并段最后一个值】最小数
  • 不能被放进归并段时,需重新创建一个归并段

在这里插入图片描述

11.5 最佳归并树

2路归并

在这里插入图片描述

多路归并

在这里插入图片描述

补充虚段

k路最佳归并树:

  • 一定是一棵严格的 k叉树
  • 只有度为0和度为k的结点

在这里插入图片描述

添加虚段的数量:

初始归并段数量 + 虚段数量 = n0 = 度为0的结点数

度为k的结点数 = nk

① 总结点数 = n = n0 + nk

② 叉的数量 = 分支结点 nk * 每个分支结点发出的分叉数 k = 除根节点外的其他结点都被一个分叉连着 n - 1 即 nk * k = n - 1

① 和 ② => n0 =(k-1)nk + 1 => nk = (n0 - 1) / (k - 1) 如果是“严格k叉树”一定能除得尽

① 若(初始归并段数量 -1) % (k-1)=0,说明刚好可以构成严格k叉树,此时不需要添加虚段

② 若(初始归并段数量 -1) % (k-1) = u ≠ 0,则需要添加虚段(k-1) - u个

在这里插入图片描述

例题:设外存上有120个初始归并段,进行12路归并时,为实现最佳归并,需要补充的虚段个数是()
A.1 B.2 C.3 D.4

(120 - 1)% (12 - 1) = 9; 则补充 (12 - 1) - 9 = 2

例题:已知三叉树T中6个叶结点的权分别是2,3,4,5,6,7,T的带权(外部)路径长度最小的是()
A.27 B.46 C.54 D.56

(6 - 1)% (3 - 1) = 1 ≠ 0; 需要补充的虚段个数是1;则变成【0,2,3,4,5,6,7】,WPLmin = (2+3)*3 + (4+5)*2 + (6+7)*1 = 15 + 18 + 13 = 46

0
2
3
4
5
6
7
5
14
27

参考:

教材:严蔚敏《数据结构》(C语言版).pdf

视频:

外部排序

败者树

置换选择排序

博客:

多路平衡归并败者树(Tree of Loser)算法

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2273876.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

基于 Python 自动化接口测试(踩坑与实践)

文档&#xff1a;基于 Python 的自动化接口测试 目录 背景问题描述与解决思路核心代码修改点及其详细解释最终测试结果后续优化建议 1. 问题背景 本项目旨在使用 Python 模拟浏览器的请求行为&#xff0c;测试文章分页接口的可用性。测试目标接口如下&#xff1a; bashcoder…

单片机-外部中断

中断是指 CPU 在处理某一事件 A 时&#xff0c;发生了另一事件 B&#xff0c;请求 CPU 迅速去处理(中断发生)&#xff1b;CPU 暂时停止当前的工作(中断响应)&#xff0c; 转去处理事件 B(中断服务)&#xff1b;待 CPU 将事件 B 处理完毕后&#xff0c;再回到原来事件 A 被中断的…

vite5.x配置https

旧版的vite直接在config里面配置https&#xff1a;true即可&#xff0c;新版的麻烦一些。 1.准备工作 需要安装openssl 下载地址&#xff1a;Win32/Win64 OpenSSL Installer for Windows - Shining Light Productions 找到合适的版本安装&#xff0c;配置好环境变量&#x…

Clip Studio Paint 报错:Running on unsupported Os. Clip Studio Paint will close.

问题描述 启动 Clip Studio Paint 报错&#xff1a;Running on unsupported Os. Clip Studio Paint will close. 原因 Clip Studio Paint 锁区&#xff0c;系统是中国大陆的无法使用。 解决方式 打开系统设置 时间和语言- 区域- 区域格式- 简体中文&#xff08;新加坡&am…

vue2/vue3中使用的富文本编辑器vue-quill

前言&#xff1a; 整理下常用的富文本编辑器工具。 vue3: 实现效果&#xff1a; 实现步骤&#xff1a; 1、安装插件&#xff0c; 编辑器核心插件 vueup/vue-quill yarn add pnpm i npm i cnpm i vueup/vue-quill vueup/vue-quill 2、安装选择性插件 &am…

Vscode 如何使用GitHub Copilot

一、“GitHub Copilot”进行登录 前提必须有github账号&#xff0c;如果没有就注册一个&#xff1b; 系统会提示您输入 GitHub 凭据。单击“登录 GitHub”&#xff0c;然后单击“允许”并输入您的 GitHub 凭据。 登录成功后&#xff1a; 二、 GitHub Copilot功能 1、预测代码 …

docker搭建atlassian-confluence:7.2.0

文章目录 引言I 部署前准备数据库镜像准备自己构建镜像dockerhub第三方镜像II 安装启动容器基础配置(获取服务器ID)授权码获取集群选择设置数据库配置管理员账号引言 准备数据库、镜像启动容器获取服务器ID根据服务器ID等信息,基于atlassian-agent.jar 授权I 部署前准备 数…

通过可穿戴外骨骼,以更灵活的方式操作你的机器人。

今天&#xff0c;我们将介绍一款专为控制 Mercury X1 和 Mercury B1 机械臂而设计的创新外骨骼。这种外骨骼以人类手臂的结构为蓝本&#xff0c;可实现直观和精确的控制。 开发这种外骨骼的动机源于人们对深度学习和机器学习等领域日益增长的兴趣。这些技术使机器人能够自主学习…

Ubuntu更改内核

需求背景&#xff1a; 由于软件需要在较低版本或者指定版本才可以运行 版本&#xff1a; 配置文件&#xff1a; vi /etc/default/grub 启动界面&#xff1a; 可运行版本&#xff1a; 解决方案&#xff1a; 方案1、更改启动顺序 sudo vi /etc/default/grub 方案2、调整启动顺…

maven之插件调试

当使用maven进行项目管理的时候&#xff0c;可能会碰到一些疑难问题。网上资料很少&#xff0c;可能会想着直接调试定位问题。这里以maven-compiler-plugin为例&#xff1a; &#xff08;1&#xff09;准备maven-compiler-plugin源码 进入maven 官网-》Maven Plugins-》找到对…

DevToys 专为 Windows 开发者打造的“瑞士军刀”式离线软件

你是否还在为寻找各种在线开发小工具而疲于奔波&#xff1f;**每次要格式化 JSON、比较文本、或者测试正则表达式&#xff0c;都得打开一堆网站&#xff0c;弹窗广告满天飞&#xff0c;严重影响工作效率。想不想要一个“多合一”的离线工具箱&#xff0c;轻松搞定开发中琐碎的日…

INT301 Bio Computation 题型整理

perceptron 设计和计算 1. XOR: 当两个输入值中只有一个为真时&#xff0c;输出为真 2. 3. 5. 6. 7. 2^3 2^n 9. a) 直接test b) 把v≥2 改成 v≥1 10. no, because it cant be separate through only one decision boundary,its not linearlly separable. Backpropagatio…

009:传统计算机视觉之边缘检测

本文为合集收录&#xff0c;欢迎查看合集/专栏链接进行全部合集的系统学习。 合集完整版请参考这里。 本节来看一个利用传统计算机视觉方法来实现图片边缘检测的方法。 什么是边缘检测&#xff1f; 边缘检测是通过一些算法来识别图像中物体之间或者物体与背景之间的边界&…

ffmpeg-avio实战:打开本地文件或者网络直播流dome

使用ffmpeg打开打开本地文件或者网络直播流的一个小dome。流程产靠ffmpeg4.x系列的解码流程-CSDN博客 #include <libavcodec/avcodec.h> #include <libavformat/avformat.h> #include <libavformat/avio.h> #include <libavutil/file.h> #include &l…

Unity Burst详解

【简介】 Burst是Unity的编译优化技术&#xff0c;优化了从C#代码编译成Native代码的过程&#xff0c;经过编译优化后代码有更高的运行效率。 在Unity中使用Burst很简单&#xff0c;在方法或类前加上[BurstCompile]特性即可。在构建时编译代码的步骤&#xff0c;Burst编译器会…

el-table 合并单元格

参考文章&#xff1a;vue3.0 el-table 动态合并单元格 - flyComeOn - 博客园 <el-table :data"tableData" border empty-text"暂无数据" :header-cell-style"{ background: #f5f7fa }" class"parent-table" :span-method"obj…

WebRTC 在视频联网平台中的应用:开启实时通信新篇章

在当今这个以数字化为显著特征的时代浪潮之下&#xff0c;实时通信已然稳稳扎根于人们生活与工作的方方面面&#xff0c;成为了其中不可或缺的关键一环。回首日常生活&#xff0c;远程办公场景中的视频会议让分散各地的团队成员能够跨越地理距离的鸿沟&#xff0c;齐聚一堂共商…

OpenAI CEO 奥特曼发长文《反思》

OpenAI CEO 奥特曼发长文《反思》 --- 引言&#xff1a;从 ChatGPT 到 AGI 的探索 ChatGPT 诞生仅一个多月&#xff0c;如今我们已经过渡到可以进行复杂推理的下一代模型。新年让人们陷入反思&#xff0c;我想分享一些个人想法&#xff0c;谈谈它迄今为止的发展&#xff0c;…

网络空间安全导论期末考试复习题

题型&#xff1a;10个选择题10个大题 1、选择题 简单&#xff0c;记忆书本里的小标题 2、大题&#xff08;较难&#xff09; 网络安全体系的五个层次的内容画公钥密码结合报文鉴别的示意图解释误用入侵检测并画示意图解释隧道技术并画示意图防火墙的作用&#xff0c;防火墙和…

接口测试-postman(使用postman测试接口笔记)

一、设置全局变量 1. 点击右上角设置按钮-》打开管理环境窗口-》选择”全局“-》设置变量名称&#xff0c;初始值和当前值设置一样的&#xff0c;放host放拼接的url&#xff0c;key放鉴权那一串字符&#xff0c;然后保存-》去使用全局变量&#xff0c;用{{变量名称}}形式 二、…