時間複雜度和空間複雜度

Ac_c0mpany丶發表於2022-03-22
時間複雜度

演算法的時間複雜度和空間複雜度

演算法的時間複雜度

時間頻度T(n)

一個演算法中的語句執行次數稱為語句頻度或時間頻度。記作T(n)

時間複雜度O(f(n))

一般情況下，演算法中的基本操作語句的重複執行次數(即時間頻度)是問題規模n的某個函式，用T(n)表示。若有某個輔助函式f(n)，使得當n趨近於無窮大時，T(n) / f(n)的極限值為不等於零的常數，則成f(n)是T(n)的同數量級函式(等價無窮小)。記作T(n) = O(f(n))，稱O(f(n))為演算法的漸進時間複雜度，簡稱複雜度。

計算時間複雜度的方法

  • step1: 用常數1代替執行時間中的所有加法常數T(n) = 3n^2 + 7n + 6 ——> T(n) = 3n^2 + 7n + 1
  • step2: 修改後的執行次數函式中，只保留最高階項T(n) = 3n^2 + 7n + 1——> T(n) = 3n^2
  • step3: 去除最高階項的係數T(n) = 3n^2 ——> T(n) = n2——>O(n2)

常見的時間複雜度

  1. 常數階O(1)
  2. 對數階O(log2n)
  3. 線性階O(n)
  4. 線性對數階O(nlog2n)
  5. 平方階O(n^2)
  6. 立方階O(n^3)
  7. k次方階O(n^k)
  8. 指數階O(2^n)
  9. n!
  10. n^n

常見的演算法時間複雜度由小到大依次為：O(1) < O(log2n) < O(n) < O(nlog2n) < O(n^2) < O(n^3) < O(n^k) < O(2^n) < O(n!) < O(n^n)，隨著問題規模n的不斷擴大，上述時間複雜度不斷增大，演算法的執行效率越低

常數階O(1)
int i = 1;
int j = 10000000;

無論程式碼執行了多少行，只要是沒有迴圈等複雜結構，那這個程式碼的時間複雜度就是O(1)

對數階O(log2n)
int i = 1;
while (i < n) {
    i = i * 2;
}

迴圈中的語句執行1次，i的值為2；執行2次，i的值4...若執行x次，則i的值為2^x

迴圈退出的條件為：i == n

也即2^x == n，則x = log2n，即T(n) = log2n，則時間複雜度O(log2n)

線性階O(n)
for (int i = 1; i <= n; i ++) {
    j = i;
    j ++;
}

for迴圈裡面的程式碼會執行n遍，它消耗的時間是隨著n的變化而變化的，因此這類程式碼都可以用O(n)來表示它的時間複雜度

線性對數階O(nlogN)
for (m = 0; m < n; m ++) { // 時間複雜度為O(n)
    i = 1;
    while (i < n) { //時間複雜度為O(log2n)
        i = i * 2;
    }
}

線性對數階O(nlogN) 其實非常容易理解，將時間複雜度為O(logn)的程式碼迴圈n遍的話，那麼它的時間複雜度就是 n * O(logN)，也就是了O(nlogN)

平方階O(n^2)
for (int i = 1; i <= n; i ++) {
    for (int j = 1; j <= n; j ++) {
        j = i;
        j ++;
    }
}

如果把 O(n) 的程式碼再巢狀迴圈一遍，它的時間複雜度就是 O(n²)，這段程式碼其實就是巢狀了2層n迴圈，它的時間複雜度就是 O(nn)，即O(n^2) 如果將其中一層迴圈的n改為m，那麼它的時間複雜度就變成了O(mn)(O(mn)相當於兩層for迴圈，一層執行m次，一層執行n次)。

立方階O(n3)、k次方階O(nk)

O(n³)相當於三層n迴圈，其他的類似

平均時間複雜度和最壞時間複雜度

  • 平均複雜度：指所有可能的輸入例項均以等概率出現的情況下，該演算法的執行時間。

  • 最壞時間複雜度：最壞情況下的時間複雜度，一般討論的時間複雜度均是最壞情況下的時間複雜。這樣做的原因是：最壞情況下的時間複雜度是演算法在任何輸入例項上執行時間的界限，這就保證了演算法的執行時間不會比最壞情況更長。

  • 平均時間複雜度和最壞時間複雜度是否一致，和演算法有關。

演算法的空間複雜度

  • 類似於時間複雜度的討論，一個演算法的空間複雜度(Space Complexity)定義為該演算法所耗費的儲存空間，它也是問題規模n的函式。

  • 空間複雜度(Space Complexity)是對一個演算法在執行過程中臨時佔用儲存空間大小的量度。有的演算法需要佔用的臨時工作單元數與解決問題的規模n有關，它隨著n的增大而增大，當n較大時，將佔用較多的儲存單元，例如快速排序和歸併排序演算法就屬於這種情況

  • 在做演算法分析時，主要討論的是時間複雜度。從使用者使用體驗上看，更看重的程式執行的速度。一些快取產品(redis, memcache)和演算法(基數排序)本質就是用空間換時間.

相關文章