时间复杂度总结

描述时间复杂度的渐进记号

Θ

定义：

[f(n)=Theta(g(n))\ exist c_1,c_2,n_0,使得：forall ngeq n_0,有 0leq c_1g(n)leq f(n)leq c_2g(n) ]

即存在常数c1,c2，使得在n足够大（n>n0）的时候，f(n)能被夹在c1g(n),c2g(n)中间，称g(n)是f(n)的渐进紧确界。Θ符号确定了一个函数的渐进上界和下界，即时间复杂度定为g(n)的常数倍。

O

定义：

[f(n)=O(g(n))\ exist c,n_0,使得：forall ngeq n_0,有 0leq f(n)leq cg(n) ]

即存在常数c，使得在n足够大（n>n0）的时候，f(n)的上界是cg(n)。O符号确定了一个函数的渐进上界，这个上界可能是渐进紧确的，也可能不是，即最坏情况下复杂度为c*g(n)，但是不一定取到最坏情况。通常都采用O符号表示算法的时间复杂度。

o

定义：

[f(n)=o(g(n))\ forall c,quad exist n_0,使得：forall ngeq n_0,有 0leq f(n)< cg(n) ]

即存对于任意常数c，均有在n足够大（n>n0）的时候，f(n)会小于cg(n)。o符号确定了一个函数的渐进上界，这个上界不是渐进紧确的，即复杂度一定不超过g(n)，即使在最坏情况下也达不到g(n)的程度。

Ω，ω

与O,o类似，Ω,ω分别定义了f(n)的渐进下界和渐进非紧确下界，不过使用比较少，不多论述。

时间复杂度的计算

循环为主的算法，一般直接计算循环次数即可。

而对于递归算法，要写出递归式，然后求解，令T(n)表示规模为n的数据的运行时间。大致可以分成两种情况

1. T(n)=T(n-a)+f(n)。即每次递归将问题规模缩小一个常数。这种情况一般直接将公式整体展开求级数和即可，即使不能求精确解也能利用放缩估计上界。不过并不是所有类似的递归式都能如此求解（如暴力递归计算斐波那契数列的算法的时间复杂度）。
2. T(n)=aT(n/b)+f(n)。即每次递归将问题规模缩小常数倍，并分解成若干个缩小规模的子问题，每次需要f(n)的时间求解，合并，分解。这种情况一般用主定理求解

主定理（简化版本）：

[令f(n)=Theta(n^d)\ if quad d>log_b(a),quad T(n)=O(n^d)\ if quad d=log_b(a),quad T(n)=O(n^d*log(n))\ if quad d<log_b(a),quad T(n)=O(n^{log_b(a)}) ]