外部排序
文章目录
- 外部排序
- 11.1 外存信息的存取
- 11.2 外部排序的方法
- 11.3 多路平衡归并的实现 - 增加k
- 11.4 置换-选择排序 - 减少m
- 11.5 最佳归并树
外部排序 指的是大文件的排序,即待排序的记录存储在外存储器 上,在排序过程中需进行多次的内、外存之间的交换。
11.1 外存信息的存取
计算机一般有 两种存储器: 内存储器(主存)和外存储器(辅存)。
-
内存的信息可随机存取,且存取速度快,但价格贵、容量小。
-
外存储器包括磁带和磁盘(或磁鼓),前者为顺序存取的设备,后者为随机存取的设备。
1、磁带信息的存取
磁带是薄薄涂上一层磁性材料的一条窄带。
磁带不是连续运转的设备,而是一种启停设备(启停时间约为 5 毫秒),它可以根据读 /写的需要随时启动和停止。由千读/写信息应在旋转稳定时进行,而磁带从静止状态启 动后,要经过一个加速的过程才能达到稳定状态;反之,在读/写结束后,从运动状态到完 全停止,要经过一个减速的过程。因此,在磁带上相邻两组字符组(记录)之间要留一空白 区,叫做 间隙 IRG(lnter Record Gap) 。
在每次写信息时, 将若干个字符组合并成一块后一次写入磁带。 于是,每个字符组间就没有 IRG,而变成 块间的间隙 IBG(lnter Block Gap) , 从而可以减少IRG 的数目,提高磁带的利用率,块的长度大于 IBG 的长度。
成块还可减少I/O操作。 因为一次1/0操作可把整个物理块都读到内存缓冲区中. 然后再从缓冲区中取出所需要的信息(一个字符组)。每当要读一个字符组时,首先要查 缓冲区中是否已有,若有,则不必执行I/O操作,直接从缓冲区读取即可。
在磁带上 读写一块信息所需的时间 由两部分组成: TI/O = ta + n · tw
- ta 为延迟时间,读/写头到达传输信息所在物理块起始位置所需时间;
- tw 为传输一 个字符的时间。
缺点:
由于磁带是 顺序存取 的设备,则读/写信息之前先要进行顺序查找,并且当读/写头位于磁带尾端,而要读的信息在磁带始端时,尚需使磁带倒转运动。这是顺序存取设备的主要缺点,它使检索和修改信息很不方便。
2、磁盘信息的存取
磁盘是一种 直接存取 的存储设备(DASO)。它的容量大、速度快,存 取速度比磁带快得多。
磁盘可以是单片的,也可以由若干盘片组成盘组。每一片上有两个面。以 6 片盘组为例,由于最顶上和最低下盘片的外侧面不存信息,所以总共只有10个面可用来保存信 息。盘片装在一个主轴上,并绕主轴高速旋转,当磁道在读/写头下通过时,便可以进行信息的读/写。
把磁盘分为 固定头盘和活动头盘 :
- 固定头盘的每 一道上都有独立的磁头,它是固定不动的,专负责读/写某一 道上的信息。
- 活动头盘的磁头是可移动的。盘组也是可变的。一个 面上只有一个磁头,它可以从该面上的一道移动到另一道。 磁头装在一个动臂上,不同面上的磁头是同时移动的,并处 于同一圆柱面上。各个面上半径相同的磁道组成一个圆柱 面,圆柱面的个数就是盘片面上的磁道数。
在磁盘上标明一个具体信息必须用一个三维地址:柱面号、盘面号、块号
- 柱面号确定读/写头的径向运动,
- 块号确定信息在盘片圆圈上的位置。
在磁盘上读写一块信息步骤:
- 首先必须找柱面,移动臂使磁头移 动到所需柱面上(称为定位或寻查);
- 然后等待要访问的信息转到磁头之下;
- 最后,读/写所需信息。
在磁盘上读写一块信息所需的时间 由 3 部分组成: TI/O = tseek + tla + twm
- tseek 为寻查时间(seek time) , 即读/写头定位的时间;
- tla 为等待时间(latency time), 即等待信息块的初始位置旋转到读写头下的时间;
- twm 为传输时间(transmission time)
内外存之间的数据交换原理:
11.2 外部排序的方法
外部排序基本上由两个相对独立的阶段组成:
- 按可用内存大小,将外存上含 n 个记录的文件分成若干长度为 l 的子文件或段(segment),依次读入内存并利用有效的内 部排序方法对它们进行排序,并将排序后得到的有序子文件重新写入外存,通常称这些有序子文件为归并段或顺串(run);
- 对这些归并段进行逐趟归并,使归并段(有序的子文件)逐渐由小至大,直至得到整个有序文件为止
外部排序所需总的时间=内部排序(产生初始归并段)所需的时间(m * tIS) + 外存信息读写的时间(d * tIO) + 内部归并所需的时间(s * utmg)
- tIS:为得到一个初始归并段进行内部排序所需时间的均值;
- m:为经过内部排序之后得到的初始归并段的个数I
- tIO:是进行一次外存 读/写时间的均值;取决于所用的外存设备;
- d:为总的读/写次数
- utmg:对u 个记录进行内部归并所需时间;
- s :为归并的趟数;
tIO 比 tmg大得多,所以提高外排的效率应主要 着眼于减少外存信息读写的次数d
假设在每个物理块可以容纳 200个记录,则每一趟归并需进行 50 次“读” 和 50 次“写"’
利用 2-路归并:4 趟 * 100 + 100 内部排序 = 500 次的读/写。
利用 5-路归并:2 趟 * 100 + 100 内部排序 = 300 次的读/写。
可见,对同一文件而言,进行外排时所需读/写外存的次数和归并的趟数 s成正比。
对m个初始归并段进行k-路平衡归并时,归并的趟数 s = ⌊ logkm ⌋ —— 可见,若增加 K 或减少m 便能减少s。
若能增加初始归并段的长度则可减少初始归并段数量m
例子:
11.3 多路平衡归并的实现 - 增加k
每一趟从m个归并段得到 ⌈m/k⌉ 归并段。这种归并方法称为 k-路平衡归并
使用k路平衡归并策略,选出一个最小元素需要对比关键字(k-1)次,所以增加k会导致内部归并所需时间增加
eg:8路平衡归并,从公企归并段中选出一个最小元素需要对比关键字7次
“败者树"(Tree of Loser):可视为一棵完全二叉树)(根节点上多了一个结点)。k个叶结点分别是当前参加比较的元素,非叶子结点用来记忆左右子树中的“失败者”,而让胜者往上继续进行比较,一直到根结点。目的- 使k元素的关键字对比次数变少
#define _CRT_SECURE_NO_WARNINGS 1 // 禁用 Visual Studio 的安全警告(例如 scanf 的安全问题)
#include <stdio.h>
#include <stdlib.h>
#include <limits.h>
// 定义状态码,用于表示函数执行的成功或失败
#define OK 1
#define OVERFLOW -2
#define ERROR -1
// 栈的初始大小
#define STACK_INIT_SIZE 4
// 定义归并段的数量
#define K 5
// 定义最大键值和最小键值
#define MAXKEY INT_MAX // 表示归并段结束的特殊键值
#define MINKEY INT_MIN // 用于初始化败者树的虚拟键值
// 定义状态类型
typedef int Status;
// 定义栈的结构体
typedef struct {
int* base; // 栈的基地址(栈底)
int* top; // 栈顶指针
int stacksize; // 栈的当前容量
} SqStack;
// 定义键值类型
typedef int KeyType;
// 定义败者树,大小为 K
typedef int LoserTree[K];
// 定义外部节点结构体
typedef struct {
KeyType key; // 外部节点的键值
} ExNode, External[K + 1]; // 外部节点数组,大小为 K + 1(用于败者树)
/**
* 初始化栈
* @param S 栈的指针
* @return 成功返回 OK,失败返回 OVERFLOW
*/
Status InitStack(SqStack* S) {
S->base = (int*)malloc(STACK_INIT_SIZE * sizeof(int)); // 分配栈的初始内存
if (!S->base)
exit(OVERFLOW); // 内存分配失败,退出程序
S->top = S->base; // 初始化栈顶指针为栈底
S->stacksize = STACK_INIT_SIZE; // 初始化栈的容量
return OK; // 初始化成功
}
/**
* 向栈中压入元素
* @param S 栈的指针
* @param e 要压入的元素
* @return 成功返回 OK,失败返回 OVERFLOW
*/
Status Push(SqStack* S, int e) {
// 如果栈已满,则需要扩容
if (S->top - S->base >= S->stacksize) {
int* new_base = (int*)realloc(S->base, (S->stacksize + STACK_INIT_SIZE) * sizeof(int)); // 重新分配内存
if (!new_base) {
return OVERFLOW; // 内存分配失败,返回错误
}
S->base = new_base; // 更新栈底指针
S->stacksize += STACK_INIT_SIZE; // 更新栈的容量
}
*S->top++ = e; // 将元素压入栈顶,并移动栈顶指针
return OK; // 成功返回 OK
}
/**
* 从栈中弹出元素
* @param S 栈的指针
* @param e 用于存储弹出元素的变量
* @return 成功返回 OK,失败返回 ERROR
*/
Status Pop(SqStack* S, int* e) {
if (S->top == S->base) {
return ERROR; // 如果栈为空,返回错误
}
*e = *(--S->top); // 弹出栈顶元素,并移动栈顶指针
return OK; // 成功返回 OK
}
/**
* 调整败者树的某个节点
* @param ls 败者树
* @param b 外部节点数组
* @param s 当前要调整的节点索引
*/
void Adjust(LoserTree ls, External b, int s) {
int t, tmp;
// 计算当前节点的父节点索引
t = (s + K) / 2; // 公式:(s + K) / 2,用于找到父节点索引
// 从当前节点向上调整到根节点
while (t > 0) {
// 如果当前节点的值大于父节点的值
if (b[s].key > b[ls[t]].key) {
tmp = s; // 交换当前节点和父节点
s = ls[t];
ls[t] = tmp;
}
t = t / 2; // 继续向上调整
}
ls[0] = s; // 更新胜者节点(ls[0] 始终存储当前胜者)
}
/**
* 创建败者树
* @param ls 败者树
* @param b 外部节点数组
*/
void CreateLoserTree(LoserTree ls, External b) {
int i;
// 初始化外部节点的虚拟节点(用于处理特殊情况)
b[K].key = MINKEY; // 第 K 个外部节点的键值设置为 MINKEY
// 初始化败者树的叶子节点(归并段的索引)
for (i = 0; i < K; i++) {
ls[i] = K; // 初始化败者树的叶子节点为虚拟节点
}
// 从最后一个叶子节点开始调整败者树
for (i = K - 1; i >= 0; i--) {
Adjust(ls, b, i); // 调整败者树
}
}
/**
* K 路归并
* @param ls 败者树
* @param b 外部节点数组
* @param S 栈数组
*/
void K_merge(LoserTree ls, External b, SqStack* S) {
int i, q;
// 从每个栈中弹出第一个元素作为初始值
for (i = 0; i < K; i++) {
Pop(&S[i], &b[i].key); // 从第 i 个栈中弹出第一个元素
}
// 创建败者树
CreateLoserTree(ls, b);
// 当胜者节点的值不为 MAXKEY 时,继续归并
while (b[ls[0]].key != MAXKEY) {
q = ls[0]; // 获取当前胜者节点(ls[0] 始终存储胜者索引)
printf("%d ", b[q].key); // 输出胜者节点的值
// 从胜者节点的栈中弹出下一个元素
Pop(&S[q], &b[q].key);
// 调整败者树
Adjust(ls, b, q);
}
printf("\n"); // 输出换行符
}
/**
* 主函数
*/
void main() {
int i, j;
int e;
SqStack S[K]; // 每个归并段对应一个栈
LoserTree ls; // 败者树
External b; // 外部节点数组
// 初始化每个归并段的栈
for (i = 0; i < K; i++) {
InitStack(&S[i]); // 初始化第 i 个栈
Push(&S[i], MAXKEY); // 将 MAXKEY 压入栈底,表示归并结束
// 输入 3 个元素
for (j = 0; j < 3; j++) {
printf("S[%d] push: ", i);
scanf("%d", &e); // 从标准输入读取一个整数
Push(&S[i], e); // 将读取的整数压入栈中
}
}
// 执行 K 路归并
K_merge(ls, b, S);
}
11.4 置换-选择排序 - 减少m
m是外部文件经过内部排序之后 得到的初始归并段的个数,
m = ⌈n/l⌉, 其中 n 为外部文件中的记录数,l 为初始归并段中的记录数
注意事项:
- 当归并段为空时,选择工作区内最小数
- 当归并段不为空时,选择工作区内【大于归并段最大值的-归并段最后一个值】最小数
- 不能被放进归并段时,需重新创建一个归并段
11.5 最佳归并树
2路归并
多路归并
补充虚段
k路最佳归并树:
- 一定是一棵严格的 k叉树
- 只有度为0和度为k的结点
添加虚段的数量:
初始归并段数量 + 虚段数量 = n0 = 度为0的结点数
度为k的结点数 = nk
① 总结点数 = n = n0 + nk
② 叉的数量 = 分支结点 nk * 每个分支结点发出的分叉数 k = 除根节点外的其他结点都被一个分叉连着 n - 1 即 nk * k = n - 1
① 和 ② => n0 =(k-1)nk + 1 => nk = (n0 - 1) / (k - 1) 如果是“严格k叉树”一定能除得尽
① 若(初始归并段数量 -1) % (k-1)=0,说明刚好可以构成严格k叉树,此时不需要添加虚段
② 若(初始归并段数量 -1) % (k-1) = u ≠ 0,则需要添加虚段(k-1) - u个
例题:设外存上有120个初始归并段,进行12路归并时,为实现最佳归并,需要补充的虚段个数是()
A.1 B.2 C.3 D.4(120 - 1)% (12 - 1) = 9; 则补充 (12 - 1) - 9 = 2
例题:已知三叉树T中6个叶结点的权分别是2,3,4,5,6,7,T的带权(外部)路径长度最小的是()
A.27 B.46 C.54 D.56(6 - 1)% (3 - 1) = 1 ≠ 0; 需要补充的虚段个数是1;则变成【0,2,3,4,5,6,7】,WPLmin = (2+3)*3 + (4+5)*2 + (6+7)*1 = 15 + 18 + 13 = 46
参考:
教材:严蔚敏《数据结构》(C语言版).pdf
视频:
外部排序
败者树
置换选择排序
博客:
多路平衡归并败者树(Tree of Loser)算法