【本节目标】
- 算法效率
- 时间复杂度
- 空间复杂度
- 常见时间复杂度以及复杂度 OJ 练习
目录
- 1. 算法效率
- 1.1 如何衡量一个算法的好坏
- 1.2 算法的复杂度
- 1.3 复杂度在校招中的考察
- 2. 时间复杂度
- 2.1 时间复杂度的概念
- 2.2 大 O 的渐进表示法
- 2.3 常见时间复杂度计算举例
- 3. 空间复杂度
- 4. 常见复杂度对比
1. 算法效率
1.1 如何衡量一个算法的好坏
如何衡量一个算法的好坏呢?比如对于以下斐波那契数列:
longlongFib(intN){if(N<3)return1;returnFib(N-1)+Fib(N-2);}斐波那契数列的递归实现方式非常简洁,但简洁一定好吗?那该如何衡量其好与坏呢?
1.2 算法的复杂度
算法在编写成可执行程序后,运行时需要耗费时间资源和空间(内存)资源。因此,衡量一个算法的好坏,一般是从时间和空间两个维度来衡量的,即时间复杂度和空间复杂度。
**时间复杂度主要衡量一个算法的运行快慢,而空间复杂度主要衡量一个算法运行所需要的额外空间。**在计算机发展的早期,计算机的存储容量很小,所以对空间复杂度很是在乎。但是经过计算机行业的迅速发展,计算机的存储容量已经达到了很高的程度,所以我们如今已经不需要特别关注一个算法的空间复杂度。
1.3 复杂度在校招中的考察
2. 时间复杂度
2.1 时间复杂度的概念
时间复杂度的定义:在计算机科学中,算法的时间复杂度是一个函数,它定量描述了该算法的运行时间。一个算法执行所耗费的时间,从理论上说,是不能算出来的,只有你把你的程序放在机器上跑起来,才能知道。但是我们需要每个算法都上机测试吗?就是可以都上机测试,但是这很麻烦,所以才有了时间复杂度这个分析方式。一个算法所花费的时间与其中语句的执行次数成正比例,算法中的基本操作的执行次数,为算法的时间复杂度。
即:找到某条基本语句与问题规模 N 之间的数学表达式,就是算出了该算法的时间复杂度。
// 请计算一下 Func1 中 ++count 语句总共执行了多少次?voidFunc1(intN){intcount=0;for(inti=0;i<N;++i){for(intj=0;j<N;++j){++count;}}for(intk=0;k<2*N;++k){++count;}intM=10;while(M--){++count;}printf("%d\n",count);}Func1 执行的基本操作次数:
F ( N ) = N 2 + 2 × N + 10 F(N) = N^2 + 2 \times N + 10F(N)=N2+2×N+10
- N = 10 N = 10N=10,F ( N ) = 130 F(N) = 130F(N)=130
- N = 100 N = 100N=100,F ( N ) = 10210 F(N) = 10210F(N)=10210
- N = 1000 N = 1000N=1000,F ( N ) = 1002010 F(N) = 1002010F(N)=1002010
实际中我们计算时间复杂度时,其实并不一定要计算精确的执行次数,而只需要大概执行次数,那么这里我们使用大 O 的渐进表示法。
2.2 大 O 的渐进表示法
大 O 符号(Big O notation):是用于描述函数渐进行为的数学符号。
推导大 O 阶方法:
- 用常数 1 取代运行时间中的所有加法常数。
- 在修改后的运行次数函数中,只保留最高阶项。
- 如果最高阶项存在且不是 1,则去除与这个项相乘的常数。得到的结果就是大 O 阶。
使用大 O 的渐进表示法以后,Func1 的时间复杂度为:
O ( N 2 ) O(N^2)O(N2)
- N = 10 N = 10N=10,F ( N ) = 100 F(N) = 100F(N)=100
- N = 100 N = 100N=100,F ( N ) = 10000 F(N) = 10000F(N)=10000
- N = 1000 N = 1000N=1000,F ( N ) = 1000000 F(N) = 1000000F(N)=1000000
通过上面我们会发现大 O 的渐进表示法去掉了那些对结果影响不大的项,简洁明了地表示出了执行次数。
另外,有些算法的时间复杂度存在最好、平均和最坏情况:
- 最坏情况:任意输入规模的最大运行次数(上界)。
- 平均情况:任意输入规模的期望运行次数。
- 最好情况:任意输入规模的最小运行次数(下界)。
例如:在一个长度为 N 的数组中搜索一个数据 x:
- 最好情况:1 次找到。
- 最坏情况:N 次找到。
- 平均情况:N/2 次找到。
在实际中一般情况关注的是算法的最坏运行情况,所以数组中搜索数据时间复杂度为 O(N)。
2.3 常见时间复杂度计算举例
实例 1
// 计算 Func2 的时间复杂度?voidFunc2(intN){intcount=0;for(intk=0;k<2*N;++k){++count;}intM=10;while(M--){++count;}printf("%d\n",count);}实例 2
// 计算 Func3 的时间复杂度?voidFunc3(intN,intM){intcount=0;for(intk=0;k<M;++k){++count;}for(intk=0;k<N;++k){++count;}printf("%d\n",count);}实例 3
// 计算 Func4 的时间复杂度?voidFunc4(intN){intcount=0;for(intk=0;k<100;++k){++count;}printf("%d\n",count);}实例 4
// 计算 strchr 的时间复杂度?constchar*strchr(constchar*str,intcharacter);实例 5
// 计算 BubbleSort 的时间复杂度?voidBubbleSort(int*a,intn){assert(a);for(size_tend=n;end>0;--end){intexchange=0;for(size_ti=1;i<end;++i){if(a[i-1]>a[i]){Swap(&a[i-1],&a[i]);exchange=1;}}if(exchange==0)break;}}实例 6
// 计算 BinarySearch 的时间复杂度?intBinarySearch(int*a,intn,intx){assert(a);intbegin=0;intend=n-1;// [begin, end]:begin 和 end 是左闭右闭区间,因此有 = 号while(begin<=end){intmid=begin+((end-begin)>>1);if(a[mid]<x)begin=mid+1;elseif(a[mid]>x)end=mid-1;elsereturnmid;}return-1;}实例 7
// 计算阶乘递归 Fac 的时间复杂度?longlongFac(size_tN){if(0==N)return1;returnFac(N-1)*N;}实例 8
// 计算斐波那契递归 Fib 的时间复杂度?longlongFib(size_tN){if(N<3)return1;returnFib(N-1)+Fib(N-2);}实例答案及分析
- 实例 1 基本操作执行了2 N + 10 2N+102N+10次,通过推导大 O 阶方法知道,时间复杂度为O ( N ) O(N)O(N)。
- 实例 2 基本操作执行了M + N M+NM+N次,有两个未知数 M 和 N,时间复杂度为O ( N + M ) O(N+M)O(N+M)。
- 实例 3 基本操作执行了 10 次,通过推导大 O 阶方法,时间复杂度为O ( 1 ) O(1)O(1)。
- 实例 4 基本操作执行最好 1 次,最坏 N 次,时间复杂度一般看最坏,时间复杂度为O ( N ) O(N)O(N)。
- 实例 5 基本操作执行最好 N 次,最坏执行了N ( N + 1 ) / 2 N(N+1)/2N(N+1)/2次,通过推导大 O 阶方法,且时间复杂度一般看最坏,时间复杂度为O ( N 2 ) O(N^2)O(N2)。
- 实例 6 基本操作执行最好 1 次,最坏O ( log N ) O(\log N)O(logN)次,时间复杂度为O ( log N ) O(\log N)O(logN)。
注:log N \log NlogN在算法分析中表示以 2 为底、N 为真数的对数。有些地方会写成lg N \lg NlgN。(建议通过折纸查找的方式讲解log N \log NlogN是怎么计算出来的。) - 实例 7 通过计算分析发现基本操作递归了 N 次,时间复杂度为O ( N ) O(N)O(N)。
- 实例 8 通过计算分析发现基本操作递归了2 N 2^N2N次,时间复杂度为O ( 2 N ) O(2^N)O(2N)。(建议画图递归栈帧的二叉树讲解。)
3. 空间复杂度
空间复杂度也是一个数学表达式,是对一个算法在运行过程中临时占用存储空间大小的量度。
空间复杂度不是程序占用了多少bytes的空间,因为这个也没太大意义,所以空间复杂度算的是变量的个数。
空间复杂度计算规则基本跟时间复杂度类似,也使用大 O 渐进表示法。
注意:函数运行时所需要的栈空间(存储参数、局部变量、一些寄存器信息等)在编译期间已经确定好了,因此空间复杂度主要通过函数在运行时候显式申请的额外空间来确定。
实例 1
// 计算 BubbleSort 的空间复杂度?voidBubbleSort(int*a,intn){assert(a);for(size_tend=n;end>0;--end){intexchange=0;for(size_ti=1;i<end;++i){if(a[i-1]>a[i]){Swap(&a[i-1],&a[i]);exchange=1;}}if(exchange==0)break;}}实例 2
// 计算 Fibonacci 的空间复杂度?// 返回斐波那契数列的前 n 项longlong*Fibonacci(size_tn){if(n==0)returnNULL;longlong*fibArray=(longlong*)malloc((n+1)*sizeof(longlong));fibArray[0]=0;fibArray[1]=1;for(inti=2;i<=n;++i){fibArray[i]=fibArray[i-1]+fibArray[i-2];}returnfibArray;}实例 3
// 计算阶乘递归 Fac 的空间复杂度?longlongFac(size_tN){if(N==0)return1;returnFac(N-1)*N;}实例答案及分析
- 实例 1 使用了常数个额外空间,所以空间复杂度为O ( 1 ) O(1)O(1)。
- 实例 2 动态开辟了 N 个空间,空间复杂度为O ( N ) O(N)O(N)。
- 实例 3 递归调用了 N 次,开辟了 N 个栈帧,每个栈帧使用了常数个空间。空间复杂度为O ( N ) O(N)O(N)
4. 常见复杂度对比
一般算法常见的复杂度如下: