排序
- 1. 排序概念及运用
- 1.1 概念
- 1.2运用
- 1.3 常见排序算法
- 2. 实现常⻅排序算法
- 2.1 插⼊排序
- 2.1.1 直接插⼊排序
- 2.1.2 希尔排序
- 2.1.2.1 希尔排序的时间复杂度计算
- 2.2 选择排序
- 2.2.1 直接选择排序
- 2.2.2 堆排序
- 2.3 交换排序
- 2.3.1冒泡排序
- 2.3.2 快速排序
- 2.3.2.1 hoare版本
- 2.3.2.2 挖坑法
- 2.3.2.3 lomuto前后指针
- 2.3.2.4 ⾮递归版本
- 2.4 归并排序
- 2.5 ⾮⽐较排序
- 2.5.1 计数排序
- 3.排序算法运行测试
- 4. 排序算法复杂度及稳定性分析
1. 排序概念及运用
1.1 概念
排序：所谓排序，就是使⼀串记录，按照其中的某个或某些关键字的⼤⼩，递增或递减的排列起来的
操作。
1.2运用
电商商品的筛选
成绩的排名
…
1.3 常见排序算法
2. 实现常⻅排序算法
2.1 插⼊排序
基本思想
直接插⼊排序是⼀种简单的插⼊排序法，其基本思想是：把待排序的记录按其关键码值的⼤⼩逐个插
⼊到⼀个已经排好序的有序序列中，直到所有的记录插⼊完为⽌，得到⼀个新的有序序列 。
实际中我们玩扑克牌时，就⽤了插⼊排序的思想
2.1.1 直接插⼊排序
当插⼊第 i(i>=1) 个元素时，前⾯的 array[0],array[1],…,array[i-1] 已经排好序，此时
⽤ array[i] 的排序码与 array[i-1],array[i-2],… 的排序码顺序进⾏⽐较，找到插⼊位置
即将 array[i] 插⼊，原来位置上的元素顺序后移
编写代码
#include"sort.h"
void InsertSort(int* arr, int n)
{
for (int i = 0; i < n-1; i++)
{
int end = i;
int tmp = arr[end+1];
while (end>=0)
{
if (tmp < arr[end])
{
arr[end + 1] = arr[end];
end--;
}
else
break;
}
arr[end+1] = tmp;
}
}
直接插⼊排序的特性总结
- 元素集合越接近有序，直接插⼊排序算法的时间效率越⾼
- 时间复杂度：O(N^2),最好的情况下为O(N)
- 空间复杂度：O(1)
最好的情况下，tmp与end比较一次直接退出执行一次，N个数据，时间复杂度为O（N）
最坏的情况下，tmp与end比较i次，N个数据，等差数列求和，时间复杂度为O（N2）
2.1.2 希尔排序
希尔排序法⼜称缩⼩增量法。希尔排序法的基本思想是：先选定⼀个整数（通常是gap = n/3+1），把
待排序⽂件所有记录分成各组，所有的距离相等的记录分在同⼀组内，并对每⼀组内的记录进⾏排
序，然后gap=gap/3+1得到下⼀个整数，再将数组分成各组，进⾏插⼊排序，当gap=1时，就相当于
直接插⼊排序。
它是在直接插⼊排序算法的基础上进⾏改进⽽来的，综合来说它的效率肯定是要⾼于直接插⼊排序算
法的。
简单来说希尔排序的目标就是为了减少最坏的情况的发生，因为插入排序随着增量的增加比较次数也会增加。我们希望当增量增加时，比较次数不会增长过快
重要概念
gap指的是组数(也是步长，对当前i+=gap能找到相匹配的组员)，N是元素个数，3意味着一组中的元素个数（若能整除则每组元素个数都为3，若不能整除则至少有一个组元素个数为4），确定组数gap如何减少是一个复杂的过程，
增量序列
增量序列使用一个序列h1 ，h2 ，…，ht 这样一个序列。如hk =3就是指我们所有相隔3的元素进行的排序也就是说对a[i]<=a[i+k]在该数组中都成立，当hk =1时整个数组也就排序好了
编写代码
void ShellSort(int* arr, int n)
{
int gap =n;
while (gap > 1)
{
gap = gap / 3 + 1;
for (int i = 0; i < n - gap; i++)
{
int end = i;
int tmp = arr[end + gap];
while (end >= 0)
{
if (tmp < arr[end])
{
arr[end + gap] = arr[end];
end -= gap;
}
else
break;
}
arr[end + gap] = tmp;
}
}
}
过程
希尔排序的特性总结
- 希尔排序是对直接插⼊排序的优化。
- 当 gap > 1 时都是预排序，⽬的是让数组更接近于有序。当 gap == 1 时，数组已经接近有序
的了，这样就会很快。这样整体⽽⾔，可以达到优化的效果。
2.1.2.1 希尔排序的时间复杂度计算
希尔排序的时间复杂度估算:
外层循环：
外层循环的时间复杂度可以直接给出为： O(log2 n) 或者 O(log3 n) ，即 O(log n)
内层循环：
假设⼀共有n个数据，合计gap组，则每组的数据个数为n/gap个；在每组中，插⼊移动的次数最坏的情况下为
1+2+3+…（n/gap-1）也就是说随着gap的减少，每组的数据会越来越多，最坏情况下的插入次数就越多，是一个等差求和的关系如
当其实随着随着gap的减少，比较的次数不会线性的增加会出现一个拐点
希尔排序时间复杂度不好计算，因为 gap 的取值很多，导致很难去计算，因此很多书中给出的希尔排
序的时间复杂度都不固定。《数据结构(C语⾔版)》— 严蔚敏书中给出的时间复杂度为：
因此对gap减少的最好情况下就是gap=gap/3+1去减少
2.2 选择排序
选择排序的基本思想：
每⼀次从待排序的数据元素中选出最⼩（或最⼤）的⼀个元素，存放在序列的起始位置，直到全部待
排序的数据元素排完 。
2.2.1 直接选择排序
- 在元素集合 array[i]–array[n-1] 中选择关键码最⼤(⼩)的数据元素
- 若它不是这组元素中的最后⼀个(第⼀个)元素，则将它与这组元素中的最后⼀个（第⼀个）元素交换
- 在剩余的 array[i]–array[n-2]（array[i+1]–array[n-1]） 集合中，重复上述步骤，直到集合剩余 1 个元素
编写代码
void SelectSort(int* arr, int n)
{
int begin = 0;
int end = n - 1;
while (begin<end)
{
int mini = begin, max = begin;
for (int i = begin+1; i <= end; i++)
{
if (arr[mini] > arr[i])
mini = i;
if (arr[max] < arr[i])
max = i;
}
if (begin == max)
max = mini;
swap(&arr[begin], &arr[mini]);
swap(&arr[end], &arr[max]);
begin++;
end--;
}
}
有没有注意到我这里有个if条件的判断这是基于以下情况
因此我们要追着max跑，所以要判断一下。当然追着谁跑要看谁先交换的是谁如果说先交换的是mini就要看max是否等于begin，如果先交换的是max就要看mini是否等于end
直接选择排序的特性总结：
- 直接选择排序思考⾮常好理解，但是效率不是很好。实际中很少使⽤
- 时间复杂度： O(N2 )
- 空间复杂度： O(1)
2.2.2 堆排序
堆排序(Heapsort)是指利⽤堆积树（堆）这种数据结构所设计的⼀种排序算法，它是选择排序的⼀
种。它是通过堆来进⾏选择数据。需要注意的是排升序要建⼤堆，排降序建⼩堆。
编写代码
void HeapSort(int* arr, int n)
{
//向下调整算法建堆
for (int i = (n - 1 - 1) / 2; i >= 0; i--)
{
AdjustDown(arr, i, n);
}
//循环将堆顶数据跟最后位置（会变化，每次减少一个数据）的数据进行交换
int end = n - 1;
while (end > 0)
{
swap(&arr[0], &arr[end]);
AdjustDown(arr, 0, end);
end--;
}
}
2.3 交换排序
交换排序基本思想：
所谓交换，就是根据序列中两个记录键值的⽐较结果来对换这两个记录在序列中的位置
交换排序的特点是：将键值较⼤的记录向序列的尾部移动，键值较⼩的记录向序列的前部移动
2.3.1冒泡排序
前⾯在算法题中我们已经接触过冒泡排序的思路了，冒泡排序是⼀种最基础的交换排序。之所以叫做冒泡排序，因为每⼀个元素都可以像⼩⽓泡⼀样，根据⾃⾝⼤⼩⼀点⼀点向数组的⼀侧移动。
编写代码
void BubbleSort(int* arr, int n)
{
for (int i = 0; i < n-1; i++)
{
int exchange = 0;
for (int j = 0; j < n - 1-i; j++)
{
if (arr[j] > arr[j + 1])
{
swap(&arr[j], &arr[j + 1]);
exchange = 1;
}
}
if (exchange == 0)
break;
}
}
冒泡排序的特性总结
• 时间复杂度： O(N
• 空间复杂度： O(1)
但是这个排序无实际意义，大多情况仅仅是给予参考价值了
2.3.2 快速排序
快速排序是Hoare于1962年提出的⼀种⼆叉树结构的交换排序⽅法，其基本思想为：任取待排序元素序列中的某元素作为基准值，按照该排序码将待排序集合分割成两⼦序列，左⼦序列中所有元素均⼩于基准值，右⼦序列中所有元素均⼤于基准值，然后最左右⼦序列重复该过程，直到所有元素都排列在相应位置上为⽌。
快速排序实现主框架：
快速排序是交换排序的一种，我们的目标是要将基准值到它该在的位置，而递归是为了划分字区间
2.3.2.1 hoare版本
算法思路 ：
1）创建左右指针，确定基准值
2）从右向左找出⽐基准值⼩的数据，从左向右找出⽐基准值⼤的数据，左右指针数据交换，进⼊下次
编写代码
int _QuickSortHoare(int* arr, int left, int right)
{
int keyi =left;
left++;
while (left <= right)
{
while (left <= right && arr[right] > arr[keyi])
right--;
while (left <= right && arr[left] <arr[keyi])
left++;
if (left <= right)
swap(&arr[left++], &arr[right--]);
}
swap(&arr[right], &arr[keyi]);
return right;
}
void QuickSortHoare(int* arr, int left, int right)
{
if (left >= right)
return;
//[left,right]--->找基准值mid
int keyi = _QuickSortHoare(arr, left, right);
//左子序列：[left,keyi-1]
QuickSortHoare(arr, left, keyi - 1);
//右子序列：[keyi+1,right]
QuickSortHoare(arr, keyi + 1, right);
}
解释一下为什么和基准值相等不进入循环
此时划分的效率就不明显了，就会变成一个只有一个元素的数组和一个n-1数组达不到我们所需的二分效果,若不进去就会有一个很好的二分效果
此时退出循环时候right的下标就为3就形成了很好的二分效果
int _QuickSortHoare(int* arr, int left, int right)
{
int keyi = left;
left++;
while (left < right)
{
while (left < right && arr[right] >= keyi)
right--;
while (left < right && arr[left] <= keyi)
left++;
if (left < right)
swap(&arr[left], &arr[right]);
}
swap(&arr[right], &arr[keyi]);
return right;
}
这段代码相较于上一段的代码在面对都是相同数字的数组就不能很好的二分，大家可以通过场景一二自己过一遍代码
代码应该有强大的鲁棒性，以便应付各种各样的输入。显然代码2就做不到处理数组全为同一个值的情况
2.3.2.2 挖坑法
思路：
创建左右指针。⾸先从右向左找出⽐基准⼩的数据，找到后⽴即放⼊左边坑中，当前位置变为新
的"坑"，然后从左向右找出⽐基准⼤的数据，找到后⽴即放⼊右边坑中，当前位置变为新的"坑"，结束循环后将最开始存储的分界值放⼊当前的"坑"中，返回当前"坑"下标（即分界值下标）
编写代码
int _QuickSortHole(int* arr, int left, int right)
{
int hole = left;
int keyi = arr[hole];
while (left < right)
{
while (left < right && arr[right] >=keyi)
right--;
arr[hole] = arr[right];
hole = right;
while (left < right && arr[left] <= keyi)
left++;
arr[hole] = arr[left];
hole = left;
}
arr[hole] = keyi;
return hole;
}
void QuickSortHole(int* arr, int left, int right)
{
if (left >= right)
return;
//[left,right]--->找基准值mid
int keyi = _QuickSortHole(arr, left, right);
//左子序列：[left,keyi-1]
QuickSortHole(arr, left, keyi - 1);
//右子序列：[keyi+1,right]
QuickSortHole(arr, keyi + 1, right);
}
当然挖矿法也是相同的问题在面对都是相同数字的数组就不能很好的二分
2.3.2.3 lomuto前后指针
创建前后指针，从左往右找⽐基准值⼩的进⾏交换，使得⼩的都排在基准值的左边。
int _QuickSortlomuto(int* arr, int left, int right)
{
int prev = left, cur = left + 1;
int keyi = left;
while (cur <= right)
{
if (arr[cur] <= arr[keyi] && ++prev != cur)
{
swap(&arr[cur], &arr[prev]);
}
cur++;
}
swap(&arr[prev], &arr[keyi]);
return prev;
}
void QuickSortlomuto(int* arr, int left, int right)
{
if (left >= right)
return;
//[left,right]--->找基准值mid
int keyi = _QuickSortlomuto(arr, left, right);
//左子序列：[left,keyi-1]
QuickSortlomuto(arr, left, keyi - 1);
//右子序列：[keyi+1,right]
QuickSortlomuto(arr, keyi + 1, right);
}
简单来说就是prev后面的区间都是大于基准值，基准值到prev（包括prev）的区间都是小于基准值的。
2.3.2.4 ⾮递归版本
⾮递归版本的快速排序需要借助数据结构：栈
void QuickSortNonR(int* arr, int left, int right)
{
ST st;
STInitialise(&st);
StackPush(&st, right);
StackPush(&st, left);
while (!StackEmpty(&st))
{
//取栈顶元素---取两次
int begin = StackTop(&st);
StackPop(&st);
int end = StackTop(&st);
StackPop(&st);
//[begin,end]---找基准值
int prev = _QuickSortlomuto(arr, begin, end);
int keyi = prev;
//根据基准值划分左右区间
//左区间：[begin,keyi-1]
//右区间：[keyi+1,end]
if (keyi + 1 < end)
{
StackPush(&st, end);
StackPush(&st, keyi + 1);
}
if (keyi - 1 > begin)
{
StackPush(&st, keyi - 1);
StackPush(&st, begin);
}
}
STDestroy(&st);
}
比如说[5,3,9,6,2,4]这样一个数组基准值为5，begin为0，right为5。在循环内部先取begin再取left，那么push操作时后放begin。用lomuto方法找基准值的下标，先遍历那个区间那个区间就后放，这里的话我们后放的是左区间因此先对左区间去递归，然后再对右区间进行递归
其实递归和循坏时等价的，一个程序能用递归写也能用循环写
2.4 归并排序
归并排序算法思想：
归并排序（MERGE-SORT）是建⽴在归并操作上的⼀种有效的排序算法,该算法是采⽤分治法（Divideand Conquer）的⼀个⾮常典型的应⽤。将已有序的⼦序列合并，得到完全有序的序列；即先使每个⼦序列有序，再使⼦序列段间有序。若将两个有序表合并成⼀个有序表，称为⼆路归并。 归并排序核⼼步骤：
编写代码
void _MergeSort(int* arr, int left,int right,int*tmp)
{
if (left >= right)
return;
int mid = (left + right) / 2;
//分解
//[left,mid] [mid+1,right]
_MergeSort(arr, left, mid, tmp);
_MergeSort(arr, mid+1, right, tmp);
//合并
//[left,mid] [mid+1,right]
int begin1 = left, end1 = mid;
int begin2 = mid+1, end2 = right;
int index = begin1;
while (begin1 <= end1 && begin2 <= end2)
{
if (arr[begin1] < arr[begin2])
tmp[index++] = arr[begin1++];
else
tmp[index++] = arr[begin2++];
}
//要么begin1越界，begin2越界
while (begin1<=end1)
tmp[index++] = arr[begin1++];
while (begin2 <= end2)
tmp[index++] = arr[begin2++];
for (int i = left; i <= right; i++)
{
arr[i] = tmp[i];
}
}
void MergeSort(int* arr, int n)
{
int* tmp = (int*)malloc(sizeof(int)*n);
_MergeSort(arr, 0, n - 1, tmp);
free(tmp);
tmp = NULL;
}
尽管快排和归并排序都是用递归的方法求解当然他们也都是递归求区间，但是快排是让基准值到正确的下标，归并是让子区间有序。
归并排序特性总结：
- 时间复杂度： O(nlogn)(开辟了logn个函数栈帧，每次函数调用时间复杂度为O(n))
- 空间复杂度： O(n)
2.5 ⾮⽐较排序
2.5.1 计数排序
计数排序⼜称为鸽巢原理，是对哈希直接定址法的变形应⽤。 操作步骤：
1）统计相同元素出现次数
2）根据统计的结果将序列回收到原来的序列中
编写代码
void CountSort(int* arr, int n)
{
int min = arr[0], max = arr[0];
for (int i = 0; i < n; i++)
{
if (min > arr[i])
{
min = arr[i];
}
if (max < arr[i])
{
max = arr[i];
}
}
int range = max - min + 1;
int* count = (int*)calloc(range, sizeof(int));
if (count == NULL)
{
perror("malloc fail!");
exit(1);
}
for (int i = 0; i < range; i++)
{
count[arr[i] - min]++;
}
int index = 0;
for (int i = 0; i < range; i++)
{
while (count[i]--)
{
arr[index++] = i + min;
}
}
}
计数排序的特性：
计数排序在数据范围集中时，效率很⾼，但是适⽤范围及场景有限。
时间复杂度： O(N + range)
空间复杂度： O(range)
稳定性：稳定
计数排序是让数组的下标去映射数据的大小，当数据集中在某一范围内，计数排序效果非常好。但是计数排序不能排序小数，同时当数据不集中时可能效果不是很好
3.排序算法运行测试
void TestOP()
{
srand((unsigned)time(NULL));
const int N = 100000;
int* a1 = (int*)malloc(sizeof(int) * N);
int* a2 = (int*)malloc(sizeof(int) * N);
int* a3 = (int*)malloc(sizeof(int) * N);
int* a4 = (int*)malloc(sizeof(int) * N);
int* a5 = (int*)malloc(sizeof(int) * N);
int* a6 = (int*)malloc(sizeof(int) * N);
int* a7 = (int*)malloc(sizeof(int) * N);
int* a8 = (int*)malloc(sizeof(int) * N);
int* a9 = (int*)malloc(sizeof(int) * N);
int* a10 = (int*)malloc(sizeof(int) * N);
int* a11 = (int*)malloc(sizeof(int) * N);
for (int i = 0; i < N; ++i)
{
a1[i] = rand();
a2[i] = a1[i];
a3[i] = a1[i];
a4[i] = a1[i];
a5[i] = a1[i];
a6[i] = a1[i];
a7[i] = a1[i];
a8[i] = a1[i];
a9[i] = a1[i];
a10[i] = a1[i];
a11[i] = a1[i];
}
int begin1 = clock();
InsertSort(a1, N);
int end1 = clock();
int begin2 = clock();
ShellSort(a2, N);
int end2 = clock();
int begin3 = clock();
SelectSort(a3, N);
int end3 = clock();
int begin4 = clock();
HeapSort(a4, N);
int end4 = clock();
int begin5 = clock();
QuickSortHoare(a5, 0, N - 1);
int end5 = clock();
int begin6 = clock();
QuickSortHole(a6, 0, N - 1);
int end6 = clock();
int begin7 = clock();
QuickSortlomuto(a7, 0, N - 1);
int end7 = clock();
int begin8 = clock();
QuickSortNonR(a8, 0, N - 1);
int end8 = clock();
int begin9 = clock();
BubbleSort(a9, N);
int end9 = clock();
int begin10 = clock();
MergeSort(a10, N);;
int end10 = clock();
int begin11 = clock();
CountSort(a11, N);
int end11 = clock();
printf("InsertSort:%d\n", end1 - begin1);
printf("ShellSort:%d\n", end2 - begin2);
printf("SelectSort:%d\n", end3 - begin3);
printf("HeapSort:%d\n", end4 - begin4);
printf("QuickSortHoare:%d\n", end5 - begin5);
printf("QuickSortHole:%d\n", end6 - begin6);
printf("QuickSortlomuto:%d\n", end7 - begin7);
printf("QuickSortNonR:%d\n", end8 - begin8);
printf("BubbleSort:%d\n", end9 - begin9);
printf("MergeSort:%d\n", end10 - begin10);
printf("CountSort:%d\n", end11 - begin11);
free(a1);
free(a2);
free(a3);
free(a4);
free(a5);
free(a6);
free(a7);
free(a8);
free(a9);
free(a10);
free(a11);
}
int main()
{
TestOP();
return 0;
}
只能说我分开测试都没问题，全部测试内存开辟太多程序就出现问题了
针对十万个随机数
冒泡排序足足运行了三十二秒，我还以为我程序又出问题了
4. 排序算法复杂度及稳定性分析
稳定性：假定在待排序的记录序列中，存在多个具有相同的关键字的记录，若经过排序，这些记录的相对次序保持不变，即在原序列中，r[i]=r[j]，且r[i]在r[j]之前，⽽在排序后的序列中，r[i]仍在r[j]之前，则称这种排序算法是稳定的；否则称为不稳定的
稳定性验证案例
直接选择排序：5 8 5 2 9
希尔排序：5 8 2 5 9
堆排序：2 2 2 2
快速排序：5 3 3 4 3 8 9 10 11
排序算法优化的目标是将O(N2)优化成O(N)，如果粉丝看完这篇博客能写出一个时间复杂度为O(N)的排序算法，那么下一届图灵奖一定非你莫属（笑）
