【数据结构】详解时间复杂度和空间复杂度的计算

一、时间复杂度（执行的次数）

1.1时间复杂度的概念

1.2时间复杂度的表示方法

1.3算法复杂度的几种情况

1.4简单时间复杂度的计算

例一

例二

例三

1.5复杂时间复杂度的计算

例一：未优化冒泡排序时间复杂度

例二：经过优化的冒泡排序

例三：二分查找的时间复杂度

例四：阶乘递归的时间复杂度

例五：斐波那契递归（二叉树）的时间复杂度

1.6不同时间复杂度效率的比较

编辑

二、空间复杂度（变量的个数）

2.1空间复杂度的概念

2.2常见空间复杂度的计算

对于递归：

前言之空间可以重复利用

例一：冒泡排序的空间复杂度（有坑）

例二：二分法空间复杂度的计算

例三：阶乘递归的空间复杂度

例四：斐波那契递归的空间复杂度（难点）并不是O（2^N）

三、重难点知识回顾与总结

一、时间复杂度（执行的次数）

1.1时间复杂度的概念

时间复杂度的定义：在计算机科学中，算法的时间复杂度是一个函数，它定量描述了该算法的运行时间。(这里的函数指的是数学中的函数，而不是我们C语言中的函数)

一个算法执行所耗费的时间，从理论上说是不能算出来的，因为只有当我们把程序放在机器上跑起来，才能知道具体时间。但是我们需要每个算法都上机测试吗？是可以都上机测试，但是这很麻烦，所以才有了时间复杂度这个分析方式。

一个算法所花费的时间与其中语句的执行次数成正比例，算法中的基本操作的执行次数，为算法的时间复杂度。

一句话概括：时间复杂度算的是执行次数，而不是具体的时间

但是需要小心误区：并不是有多少个循环次数时间复杂度就是多少，得具体分析算法逻辑

shellsort 用了三个循环但是它的时间复杂度是O（N^1.3）

1.2时间复杂度的表示方法

我们计算时间复杂度时不是计算算法运行的具体次数，而是用大O的渐进表示法来计算，其具体计算方法如下：

用常数1取代运行时间中的所有加法常数。eg:O（100）->O（1）
在修改后的运行次数函数中，只保留最高阶项。eg：O（N^2+N）->O（N^2）
如果最高阶项存在且不是1，则去除与这个项目相乘的常数。O（2N^2）->O（N^2）

1.3算法复杂度的几种情况

最坏情况：任意输入规模的最大运行次数(上界)
平均情况：任意输入规模的期望运行次数
最好情况：任意输入规模的最小运行次数(下界)

但是需要注意的是：

在实际中一般情况关注的是算法的最坏运行情况

1.4简单时间复杂度的计算

例一

void Func(int N)
{
int count = 0;
for (int k = 0; k < 100; ++ k)
{
 ++count;
}
printf("%d\n", count);
}

O（100）-> O(1)

例二

void Func1(int N)
{
	int count = 0;
	for (int i = 0; i < N; ++i)
	{
		for (int j = 0; j < N; ++j)
		{
			++count;
		}
	}
	for (int k = 0; k < 2 * N; ++k)
	{
		++count;
	}
	int M = 10;
	while (M--)
	{
		++count;
	}
	printf("%d\n", count);
}

上面程序具体执行的次数：N * N + 2*N + 10

用大O的渐进表示法得出时间复杂度：O(N^2) (只保留最高阶项)

例三

void Func2(int N)
{
int count = 0;
for (int k = 0; k < 2 * N ; ++ k)
{
 ++count;
}
int M = 10;
while (M--)
{
 ++count;
}
printf("%d\n", count);
}

上面程序具体执行的次数：2*N + 10

用大O的渐进表示法得出时间复杂度：O(N) (如果最高阶项存在且不是1，则去除与这个项目相乘的常数

1.5复杂时间复杂度的计算

例一：未优化冒泡排序时间复杂度

void BubbleSort(int* a, int n)
{
    assert(a);
    
    for (size_t end = n; end > 0; --end)
    {
    
        
        for (size_t i = 1; i < end; ++i)
        {
            if (a[i-1] > a[i])
            {
                Swap(&a[i-1], &a[i]);
                exchange = 1;
            }
        }
        
       
    }
}

分析可知：

所以本质上是一个等差数列

刚开始一共有N个数，所以需要比较N-1次第二次需要比较 N-2 次

所以（N-1）+(N-2)+(N-3)+...+3+2+1= (N^2-N)/2

用大O的渐进表示法得出时间复杂度：O(N^2)

但是这是未经过优化的冒泡排序，不管原先数组是否有序，都要经过全部遍历

例二：经过优化的冒泡排序

void BubbleSort(int* a, int n)
{
    assert(a);
    
    for (size_t end = n; end > 0; --end)
    {
        int exchange = 0;
        
        for (size_t i = 1; i < end; ++i)
        {
            if (a[i-1] > a[i])
            {
                Swap(&a[i-1], &a[i]);
                exchange = 1;
            }
        }
        
        if (exchange == 0)
        {
            break;
        }
    }
}

多了一个exchange变量，这个变量的好处是：

对于已经有序的数组，不再会进行排序

当exchange为0时，表示在当前一轮的比较中没有发生任何元素交换，这意味着待排序的数组已经是有序的状态。这种情况下，BubbleSort算法可以提前结束，而不必再进行后续的比较操作。

举个具体的例子来说明，对于输入序列 1 2 3 5 4：

在第一轮排序中，会先比较1和2，然后比较2和3，接着比较3和5，最后比较5和4，发现5和4的顺序不对，进行交换，exchange被设置为1。
在第二轮排序中，会继续比较1和2，2和3，3和4。因为在这一轮中没有发生任何交换，exchange保持为0。
根据exchange为0的判断，算法将会提前结束，因为在这一轮中没有发生交换，说明数组已经是有序的（除了最后的4和5位置互换），不需要再进行后续的比较和排序操作。

因此，exchange的作用在于提供了一种优化机制，可以在数组已经有序的情况下提前结束排序过程，减少不必要的比较操作，从而提高算法的效率。

那么当我们的数组有序的时候，也就是最好的情况，我们的复杂度是O（N），遍历一次发现exchange是0，停止循环

但是我们的时间复杂度算的是悲观保守的估计，所以即使优化了，我们的时间复杂度最终的结果还是O（N^2）！

当然这也给我们一个启示，一段代码中并不是只有一个复杂度，不同的情况有不同的复杂度

例三：二分查找的时间复杂度

最好的情况：O(1)

最坏的情况：

分析最坏情况：

刚开始在N个数中找，接下来在N/2个数中找，接着在N/4数中找....

没找一次，次数+1，当我们有N个数据的时候，很容易得知我们只需要 Log₂x 就找出是否存在

用大O的渐进表示法得出时间复杂度：O(logN) （一般省略底数）

例四：阶乘递归的时间复杂度

long long Fac(size_t N)
{
 if(0 == N)
 return 1;
 
 return Fac(N-1)*N;
}

用大O的渐进表示法得出时间复杂度：O(N)

换句话讲就是：每次调用是O（1），但是调用N次

例五：斐波那契递归（二叉树）的时间复杂度

long long Fibonacci(size_t N)
{
	return N < 2 ? N : Fibonacci(N - 1) + Fibonacci(N - 2);
}

可以推导出最后一层的节点数量应该是2^n-1 （因为第1层是0次方）

那么我们的时间复杂度就转变为：2^0+2^1+...+2^n-1

我们可以用公式：

得知Sn=2^n-1

或者用错位相减法：

小羊表示：错位相减法yyds！！

最终可以得知 用大O的渐进表示法得出时间复杂度为：O(2^N)

说明斐波那契这个函数很挫，复杂度很高

1.6不同时间复杂度效率的比较

我们可以看到当测试数据很大时 O(logN) 和 O(1) 的效率几乎是一样的，所以二分查找是一种效率很高的算法，但是它也有一个缺陷，那就是它操作的数组元素必须是有序的。

二、空间复杂度（变量的个数）

2.1空间复杂度的概念

空间复杂度不是程序占用了多少bytes的空间，因为这个也没太大意义，空间复杂度算的是变量的个数。空间复杂度计算规则基本跟时间复杂度类似，也使用大O的渐进表示法。

而且我们找的变量，必须是这个程序临时占用的，额外占用的，别人给咱们的不算

谨记：时间是一去不复返的，需要累计；空间是可以重复利用的，不需要累计

2.2常见空间复杂度的计算

对于递归：

每次递归的开辟的大小 * 递归的次数

前言之空间可以重复利用

我们接下来要开始计算空间复杂度了，但是会有很多问题，所以我们先算一个程序

#include<bits/stdc++.h>
using namespace std;
void f(int n)
{
    int a=0;
    int *p=(int*)malloc(4*n);

    cout << &a << " " << &p << endl;
}
int main()
{
    f(10);
    f(100);
    return 0;
}

从结果中我们可以看出：当函数栈帧销毁之后，再次调用该函数的时候，还是用的上一次的那个空间，而不会新开辟空间

例一：冒泡排序的空间复杂度（有坑）

void BubbleSort(int* a, int n)
{
    assert(a);
    
    for (size_t end = n; end > 0; --end)
    {
        int exchange = 0;
        
        for (size_t i = 1; i < end; ++i)
        {
            if (a[i-1] > a[i])
            {
                Swap(&a[i-1], &a[i]);
                exchange = 1;
            }
        }
        
        if (exchange == 0)
        {
            break;
        }
    }
}

这里我们在循环外部定义了两个变量，然后在循环内部又定义了一个变量；可能有的同学会认为temp变量因为在循环内部，每次进入循环都会被重新定义，所以空间复杂度为N^2，其实不是的；

我们知道虽然时间是累积的，一去不复返，但是空间是不累积的，我们可以重复使用；对于我们的temp变量来说，每次进入if这个局部范围时开辟空间，离开这个局部范围时空间销毁，下一次在进入时又重新开辟空间，出去又再次销毁；所以其实从始至终temp都只占用了一个空间；

而且还有一个误导人的就是那个数组：尽管有数组而且还有N个变量，但是这个数组是别的程序开辟好传进来的，并不是我们所开辟的，所以我们算一个数组首地址变量即可

所以exchange end i 这三个变量都是开辟了一个空间，每次销毁之后，再次在原来的地址上开辟空间

例二：二分法空间复杂度的计算

#include<bits/stdc++.h>
using namespace std;
int n,m;int j=0;
const int N = 1000010;
int a[N];
bool check(int num,int x)
{
    if(num < x)//在例子中 x就是3
    {
        return true;
    }
    else
    {
        return false;
    }
}
int binary_search(int q[],int len,int x)
{
    int l=-1,r=n;
    while(l+1 < r)//循环条件写成这样可以节约时间
    {
        int mid= (l+r) >> 1;
        if(check(q[mid],x))
        {
            l=mid;
        }
        else
        {
            r=mid;
        }
    }
    //因为存在找不到的情况
    if(q[r]==x)//r就是我们要的那个位置
    {
        return r+1;
    }
    else
    {
        return -1;
    }
}
int main()
{
    cin >> n >> m;
    for(int i=0;i<n;++i)
    {
        cin >> a[i];
    }
    while(m--)
    {
        int x;//这里原先x写成数组是真没有必要
        cin >> x;
        int res=binary_search(a,n,x);
        cout << res << " ";
    }
    return 0;
}

对于循环的二分查找而言，空间复杂度是O(1)。

例三：阶乘递归的空间复杂度

long long Fac(int N)
{
	return N < 2 ? N : Factorial(N - 1) * N;
}

我们知道，每次函数调用开始时都会在栈区上形成自己的函数栈帧，调用结束时函数栈帧销毁；

对于上面的递归来说：只有当 N < 2 的时候函数才开始返回，而在这之前所形成的 Fac(N) Fac(N-1) Fac(N-2) … 这些函数的函数栈帧在返回之前都不会释放，而是一直存在，知道函数一步一步开始返回的时候开辟的空间才会被逐渐释放。所以在计算递归类空间复杂度度时，我们在意的是递归的深度；

这里调用的递归深度为 n - 1（递归 n - 1 次），所以空间复杂度为O(N)。

例四：斐波那契递归的空间复杂度（难点）并不是O（2^N）

long long Fibonacci(size_t N)
{
	return N < 2 ? N : Fibonacci(N - 1) + Fibonacci(N - 2);
}

递归的深度是N

每层是常数个

所以空间复杂度是O（N）

斐波那契是逐个分支进行递归的，以上图为例，它会先递归6-5-4-3-2-1，再递归6-5-4-3-2，再递归6-5-4-2，以此类推，直到把最后一个分支递归完；

其次，空间是不会累积的，所以尽管我们同一个函数的函数栈帧会被开辟很多次，但是它仍然只计入一次开辟的空间复杂度。

所以递归调用开递归的深度，这里的空间复杂度为O(N)。

对于时间复杂度而言：左分支f（3）和右分支f（3）是不一样的，因为只要有，就会浪费时间

但是对于空间复杂度而言：f（3）的栈帧是同一个东西，只要左分支的f（3）消失了，那么下一次建立这个变量的空间还是在同样的位置（详情可以看前言）

三、重难点知识回顾与总结

时间复杂度和空间复杂度都是用大O的渐进表示法来表示。
时间复杂度看运算执行的次数，空间复杂度看变量定义的个数。
在递归中，时间复杂度看调用的次数，空间复杂度看调用的深度。
时间是累积的，一去不复返；空间是不累积的，可以重复利用。

冒泡排序的时间复杂度为O(N^2)，空间复杂度为O(1)。
二分查找的时间复杂度为O(logN)，空间复杂度为O(1)。
阶乘递归的时间复杂度为O(N)，空间复杂度为O(N)。
斐波那契递归的时间复杂度为O(2^N)，空间复杂度为O(N)。