时间频度，时间复杂度的计算

一、时间频度

1. 概念

一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费的时间就多。一个一个算法中的语句执行次数称为语句频度或时间频度，记为 T(n)。

如：
计算 1~100 所有数字之和，有以下两种方式：
	第一种方式：
		int total = 0;
		for (int i = 1; i <= 100; i++) {
  		  total += i;
		}
	其时间频度 T(n) = n+1 （当 i = 101 时，for 循环还会进行一次判断，所以为 n+1）
	
	第二种方式：
		int total = 0;
		total = (1 + 100) * 100 / 2;
	其时间频度 T(n) = 1
1
2
3
4
5
6
7
8
9
10
11
12
13

2. 特点

随着程序规模的增大，时间频度有以下三个特点：

1. 忽略常数项
2. 忽略低次项
3. 忽略系数 （n^k (k>=3)不适用）

2.1 忽略常数项

由下图可知：
随着程序规模 n 的增大，T(n) = 2n+30 与 T(n) = 2n 的执行曲线无线接近，常数项 30 可以忽略不计。

2.2 忽略低次项

由下图可知：
随着程序规模 n 的增大，T(n) = 2n²+3n+20 与 T(n) = 2n² 的执行曲线基本重合，低次项 3n+20 可以忽略不计。

2.3 忽略系数

由下图可知：
随着程序规模 n 的增大，T(n) = 3n²+2n 与 T(n) = 5n²+7n 的执行曲线基本重合，系数 3 和 5 可以忽略不计。
但是 T(n) = n³+5n 与 T(n) = 6n³+4n 执行曲线分离，所以忽略系数不适用于 n^k(k>=3) 的情况。

二、时间复杂度

1. 概念

一般情况下，算法中的基本操作语句的重复执行次数是问题规模n的某个函数，用 T(n) 表示，若有某个辅助函数 f(n) ，使得当 n 趋近于无穷大时，T(n) / f(n) 的极限值为不等于 0 的常数，则称 f(n) 是 T(n) 的同数量级函数，记作 T(n) = O(f(n)) ，称 O(f(n)) 为算法的渐进时间复杂度，简称时间复杂度。

2. 计算时间复杂度

T(n) 不同，时间复杂度可能相同。

如：
	T(n) = n^2+7n+6 与 T(n) = 3n^2+2n+3 的 T(n) 不同，
	但是它们的时间复杂度相同，都为 O(n^2)，
	忽略常数项，忽略低次项、忽略系数，两者时间频度都为 T(n) = n^2，
	存在辅助函数 f(n) = n^2 使得 T(n) / f(n) = 1 （不为0的常数）
	所以，T(n) = n^2+7n+6 与 T(n) = 3n^2+2n+3 的时间复杂度都为 O(f(n)) = O(n^2)
1
2
3
4
5
6

3. 常见的时间复杂度

常见的算法时间复杂度由小到大依次为：O(1)<O(㏒n)<O(n)<O(n㏒n)<O(n^ 2)<O(n^ 3) <O(n^ k)<O(2^ n)，随着问题规模 n 的不断增大，上述时间复杂度不断增大，算法的执行效率降低。

3.1 常数阶 O(1)

无论算法执行了多少行代码，只要是没有循环等复杂结构，那么该算法的时间复杂度都是 O(1).

如：
	int i = 10;
	int j = 20;
	i++;
	++j;
	int s = i + j;
其时间复杂度为 O(1)
1
2
3
4
5
6
7

3.2 对数阶 O(㏒n)

如下所示，在 while 循环中，每次循环都会将 i 乘以 2，当循环 ㏒₂n 次之后，这段代码结束，所以其时间复杂度为 O(㏒₂n)。
对数阶的底数是基于代码变化的，假设循环中执行的代码为 i = i * 3 则这段代码的时间复杂度为 O(㏒₃n)。

如：
	int n = 100;
	int i = 1;
	while (i < n) {
		i = i * 2;   	
	}	
其时间复杂度为 O(㏒₂n)
1
2
3
4
5
6
7

3.3 线性阶 O(n)

如下所示，for循环中的代码会执行n次，这段代码所消耗的时间随着 n 的变化而变化，所以其时间复杂度为 O(n)。

如：
	int n = 100;
	int j = 1;
	for (int i = 0; i < n; i++) {
	  j++;
	}
其时间复杂度为 O(n)
1
2
3
4
5
6
7

3.4 线性对数阶 O(n㏒n)

如下所示，内层循环的时间复杂度为 O(㏒₂n)，外层循环的时间复杂度为 O(n)，所以这段代码的时间复杂度为 O(㏒₂n) * O(n)，即 O(n㏒₂n)。

如：
    int n = 100;
    for (int i = 0; i < n; i++) {
        int j = 1;
        while (j < n) {
            j = j * 2;
        }
    }
其时间复杂度为O(n㏒₂n)
1
2
3
4
5
6
7
8
9

3.5 平方阶 O(n^2)

嵌套两层时间复杂度为 O(n) 的循环，其时间复杂度就为 O(n^2)。
立方阶和 k 次方阶与之类似。

如：
    int n = 100;
    int s = 0;
    for (int i = 0; i < n; i++) {
        for (int j = 0; j < n; j++) {
            s++;
        }
    }	
其时间复杂度为 O(n^2)
1
2
3
4
5
6
7
8
9

4. 平均时间复杂度与最坏时间复杂度

平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下该算法的运行时间。
最坏时间复杂度是指最坏情况下该算法的运行时间。
一般讨论的时间复杂度都是最坏情况下的时间复杂度，因为最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限，这就保证了算法的运行时间不会比最坏情况更长。

常用排序算法的时间复杂度：