P、NP、NPC和NP-Hard相關概念的圖形和解釋

一、相關概念

      P: 能在多項式時間內解決的問題

　　NP: 不能在多項式時間內解決或不確定能不能在多項式時間內解決，但能在多項式時間驗證的問題

　　NPC: NP完全問題，所有NP問題在多項式時間內都能約化(Reducibility)到它的NP問題，即解決了此NPC問題，所有NP問題也都得到解決。

　　NP hard:NP難問題，所有NP問題在多項式時間內都能約化(Reducibility)到它的問題(不一定是NP問題)。

二、四者聯絡的圖形表示

將四種問題用集合表示，它們的關係圖1所示。

圖1 P NP NPC NPhard關係的圖形表示

說明：

　　1. P問題屬於NP問題，NPC問題屬於NP問題。

　　2. NPC問題同時屬於NP hard問題，是NP與NPhard的交集。

三，進一步解釋

   你會經常看到網上出現“這怎麼做，這不是NP問題嗎”、“這個只有搜了，這已經被證明是NP問題了”之類的話。你要知道，大多數人此時所說的NP問題其實都是指的NPC問題。他們沒有搞清楚NP問題和NPC問題的概念。NP問題並不是那種“只有搜才行”的問題，NPC問題才是。好，行了，基本上這個誤解已經被澄清了。下面的內容都是在講什麼是P問題，什麼是NP問題，什麼是NPC問題，你如果不是很感興趣就可以不看了。接下來你可以看到，把NP問題當成是 NPC問題是一個多大的錯誤。

 3.1 時間複雜度

    時間複雜度並不是表示一個程式解決問題需要花多少時間，而是當問題規模擴大後，程式需要的時間長度增長得有多快。也就是說，對於高速處理資料的計算機來說，處理某一個特定資料的效率不能衡量一個程式的好壞，而應該看當這個資料的規模變大到數百倍後，程式執行時間是否還是一樣，或者也跟著慢了數百倍，或者變慢了數萬倍。不管資料有多大，程式處理花的時間始終是那麼多的，我們就說這個程式很好，具有O(1)的時間複雜度，也稱常數級複雜度；資料規模變得有多大，花的時間也跟著變得有多長，這個程式的時間複雜度就是O(n)，比如找n個數中的最大值；而像氣泡排序、插入排序等，資料擴大2倍，時間變慢4倍的，屬於O(n^2)的複雜度。還有一些窮舉類的演算法，所需時間長度成幾何階數上漲，這就是O(a^n)的指數級複雜度，甚至O(n!)的階乘級複雜度。不會存在O(2*n^2)的複雜度，因為前面的那個“2”是係數，根本不會影響到整個程式的時間增長。同樣地，O (n^3+n^2)的複雜度也就是O(n^3)的複雜度。因此，我們會說，一個O(0.01*n^3)的程式的效率比O(100*n^2)的效率低，儘管在n很小的時候，前者優於後者，但後者時間隨資料規模增長得慢，最終O(n^3)的複雜度將遠遠超過O(n^2)。我們也說，O(n^100)的複雜度小於O(1.01^n)的複雜度。

 

   容易看出，前面的幾類複雜度被分為兩種級別，其中後者的複雜度無論如何都遠遠大於前者：一種是O(1),O(log(n)),O(n^a)等，我們把它叫做多項式級的複雜度，因為它的規模n出現在底數的位置；另一種是O(a^n)和O(n!)型複雜度，它是非多項式級的，其複雜度計算機往往不能承受。當我們在解決一個問題時，我們選擇的演算法通常都需要是多項式級的複雜度，非多項式級的複雜度需要的時間太多，往往會超時，除非是資料規模非常小。

 

    自然地，人們會想到一個問題：會不會所有的問題都可以找到複雜度為多項式級的演算法呢？很遺憾，答案是否定的。有些問題甚至根本不可能找到一個正確的演算法來，這稱之為“不可解問題”(Undecidable Decision Problem)。比如，輸出從1到n這n個數的全排列。不管你用什麼方法，你的複雜度都是階乘級，因為你總得用階乘級的時間列印出結果來。有人說，這樣的“問題”不是一個“正規”的問題，正規的問題是讓程式解決一個問題，輸出一個“YES”或“NO”（這被稱為判定性問題），或者一個什麼什麼的最優值（這被稱為最優化問題）。那麼，根據這個定義，我也能舉出一個不大可能會有多項式級演算法的問題來：Hamilton迴路。問題是這樣的：給你一個圖，問你能否找到一條經過每個頂點一次且恰好一次（不遺漏也不重複）最後又走回來的路（滿足這個條件的路徑叫做Hamilton迴路）。這個問題現在還沒有找到多項式級的演算法。事實上，這個問題就是我們後面要說的NPC問題。

 

3.2 P類問題的概念

     下面引入P類問題的概念：如果一個問題可以找到一個能在多項式的時間裡解決它的演算法，那麼這個問題就屬於P問題。P是英文單詞多項式的第一個字母。哪些問題是P類問題呢？通常NOI和NOIP不會出不屬於P類問題的題目。我們常見到的一些資訊奧賽的題目都是P問題。道理很簡單，一個用窮舉換來的非多項式級時間的超時程式不會涵蓋任何有價值的演算法。

   

3.3 NP問題的概念

   接下來引入NP問題的概念。這個就有點難理解了，或者說容易理解錯誤。在這裡強調（回到我竭力想澄清的誤區上），NP問題不是非P類問題。NP問題是指可以在多項式的時間裡驗證一個解的問題。NP問題的另一個定義是，可以在多項式的時間裡猜出一個解的問題。比方說，我RP很好，在程式中需要列舉時，我可以一猜一個準。現在某人拿到了一個求最短路徑的問題，問從起點到終點是否有一條小於100個單位長度的路線。它根據資料畫好了圖，但怎麼也算不出來，於是來問我：你看怎麼選條路走得最少？我說，我RP很好，肯定能隨便給你指條很短的路出來。然後我就胡亂畫了幾條線，說就這條吧。那人按我指的這條把權值加起來一看，嘿，神了，路徑長度98，比100小。於是答案出來了，存在比100小的路徑。別人會問他這題怎麼做出來的，他就可以說，因為我找到了一個比100 小的解。在這個題中，找一個解很困難，但驗證一個解很容易。驗證一個解只需要O(n)的時間複雜度，也就是說我可以花O(n)的時間把我猜的路徑的長度加出來。那麼，只要我RP好，猜得準，我一定能在多項式的時間裡解決這個問題。我猜到的方案總是最優的，不滿足題意的方案也不會來騙我去選它。這就是NP問題。當然有不是NP問題的問題，即你猜到了解但是沒用，因為你不能在多項式的時間裡去驗證它。下面我要舉的例子是一個經典的例子，它指出了一個目前還沒有辦法在多項式的時間裡驗證一個解的問題。很顯然，前面所說的Hamilton迴路是NP問題，因為驗證一條路是否恰好經過了每一個頂點非常容易。但我要把問題換成這樣：試問一個圖中是否不存在Hamilton迴路。這樣問題就沒法在多項式的時間裡進行驗證了，因為除非你試過所有的路，否則你不敢斷定它“沒有Hamilton迴路”。

    之所以要定義NP問題，是因為通常只有NP問題才可能找到多項式的演算法。我們不會指望一個連多項式地驗證一個解都不行的問題存在一個解決它的多項式級的演算法。相信讀者很快明白，資訊學中的號稱最困難的問題——“NP問題”，實際上是在探討NP問題與P類問題的關係。

    很顯然，所有的P類問題都是NP問題。也就是說，能多項式地解決一個問題，必然能多項式地驗證一個問題的解——既然正解都出來了，驗證任意給定的解也只需要比較一下就可以了。關鍵是，人們想知道，是否所有的NP問題都是P類問題。我們可以再用集合的觀點來說明。如果把所有P類問題歸為一個集合P中，把所有 NP問題划進另一個集合NP中，那麼，顯然有P屬於NP。現在，所有對NP問題的研究都集中在一個問題上，即究竟是否有P=NP？通常所謂的“NP問題”，其實就一句話：證明或推翻P=NP。

    NP問題一直都是資訊學的巔峰。巔峰，意即很引人注目但難以解決。在資訊學研究中，這是一個耗費了很多時間和精力也沒有解決的終極問題，好比物理學中的大統一和數學中的歌德巴赫猜想等。

    目前為止這個問題還“啃不動”。但是，一個總的趨勢、一個大方向是有的。人們普遍認為，P=NP不成立，也就是說，多數人相信，存在至少一個不可能有多項式級複雜度的演算法的NP問題。人們如此堅信P≠NP是有原因的，就是在研究NP問題的過程中找出了一類非常特殊的NP問題叫做NP-完全問題，也即所謂的 NPC問題。C是英文單詞“完全”的第一個字母。正是NPC問題的存在，使人們相信P≠NP。下文將花大量篇幅介紹NPC問題，你從中可以體會到NPC問題使P=NP變得多麼不可思議。

 

3.4 NPC問題

1、約化的定義

    為了說明NPC問題，我們先引入一個概念——約化(Reducibility，有的資料上叫“歸約”)。

 

    簡單地說，一個問題A可以約化為問題B的含義即是，可以用問題B的解法解決問題A，或者說，問題A可以“變成”問題B。《演算法導論》上舉了這麼一個例子。比如說，現在有兩個問題：求解一個一元一次方程和求解一個一元二次方程。那麼我們說，前者可以約化為後者，意即知道如何解一個一元二次方程那麼一定能解出一元一次方程。我們可以寫出兩個程式分別對應兩個問題，那麼我們能找到一個“規則”，按照這個規則把解一元一次方程程式的輸入資料變一下，用在解一元二次方程的程式上，兩個程式總能得到一樣的結果。這個規則即是：兩個方程的對應項係數不變，一元二次方程的二次項係數為0。按照這個規則把前一個問題轉換成後一個問題，兩個問題就等價了。同樣地，我們可以說，Hamilton迴路可以約化為TSP問題(Travelling Salesman Problem，旅行商問題)：在Hamilton迴路問題中，兩點相連即這兩點距離為0，兩點不直接相連則令其距離為1，於是問題轉化為在TSP問題中，是否存在一條長為0的路徑。Hamilton迴路存在當且僅當TSP問題中存在長為0的迴路。

 

    “問題A可約化為問題B”有一個重要的直觀意義：B的時間複雜度高於或者等於A的時間複雜度。也就是說，問題A不比問題B難。這很容易理解。既然問題A能用問題B來解決，倘若B的時間複雜度比A的時間複雜度還低了，那A的演算法就可以改進為B的演算法，兩者的時間複雜度還是相同。正如解一元二次方程比解一元一次方程難，因為解決前者的方法可以用來解決後者。

 

    很顯然，約化具有一項重要的性質：約化具有傳遞性。如果問題A可約化為問題B，問題B可約化為問題C，則問題A一定可約化為問題C。這個道理非常簡單，就不必闡述了。

 

    現在再來說一下約化的標準概念就不難理解了：如果能找到這樣一個變化法則，對任意一個程式A的輸入，都能按這個法則變換成程式B的輸入，使兩程式的輸出相同，那麼我們說，問題A可約化為問題B。

 

    當然，我們所說的“可約化”是指的可“多項式地”約化(Polynomial-time Reducible)，即變換輸入的方法是能在多項式的時間裡完成的。約化的過程只有用多項式的時間完成才有意義。

 

    好了，從約化的定義中我們看到，一個問題約化為另一個問題，時間複雜度增加了，問題的應用範圍也增大了。通過對某些問題的不斷約化，我們能夠不斷尋找複雜度更高，但應用範圍更廣的演算法來代替複雜度雖然低，但只能用於很小的一類問題的演算法。再回想前面講的P和NP問題，聯想起約化的傳遞性，自然地，我們會想問，如果不斷地約化上去，不斷找到能“通吃”若干小NP問題的一個稍複雜的大NP問題，那麼最後是否有可能找到一個時間複雜度最高，並且能“通吃”所有的 NP問題的這樣一個超級NP問題？答案居然是肯定的。也就是說，存在這樣一個NP問題，所有的NP問題都可以約化成它。換句話說，只要解決了這個問題，那麼所有的NP問題都解決了。這種問題的存在難以置信，並且更加不可思議的是，這種問題不只一個，它有很多個，它是一類問題。這一類問題就是傳說中的NPC 問題，也就是NP-完全問題。NPC問題的出現使整個NP問題的研究得到了飛躍式的發展。我們有理由相信，NPC問題是最複雜的問題。再次回到全文開頭，我們可以看到，人們想表達一個問題不存在多項式的高效演算法時應該說它“屬於NPC問題”。

 

2.NPC問題

       NPC問題的定義非常簡單。同時滿足下面兩個條件的問題就是NPC問題。首先，它得是一個NP問題；然後，所有的NP問題都可以約化到它。證明一個問題是 NPC問題也很簡單。先證明它至少是一個NP問題，再證明其中一個已知的NPC問題能約化到它（由約化的傳遞性，則NPC問題定義的第二條也得以滿足；至於第一個NPC問題是怎麼來的，下文將介紹），這樣就可以說它是NPC問題了。

 

    既然所有的NP問題都能約化成NPC問題，那麼只要任意一個NPC問題找到了一個多項式的演算法，那麼所有的NP問題都能用這個演算法解決了，NP也就等於P 了。因此，給NPC找一個多項式演算法太不可思議了。因此，前文才說，“正是NPC問題的存在，使人們相信P≠NP”。我們可以就此直觀地理解，NPC問題目前沒有多項式的有效演算法，只能用指數級甚至階乘級複雜度的搜尋。

 

3.5 NP-Hard問題

   NP-Hard問題。NP-Hard問題是這樣一種問題，它滿足NPC問題定義的第二條但不一定要滿足第一條（就是說，NP-Hard問題要比 NPC問題的範圍廣）。NP-Hard問題同樣難以找到多項式的演算法，但它不列入我們的研究範圍，因為它不一定是NP問題。即使NPC問題發現了多項式級的演算法，NP-Hard問題有可能仍然無法得到多項式級的演算法。事實上，由於NP-Hard放寬了限定條件，它將有可能比所有的NPC問題的時間複雜度更高從而更難以解決。

   不要以為NPC問題是一紙空談。NPC問題是存在的。確實有這麼一個非常具體的問題屬於NPC問題。下文即將介紹它。

 

四.舉例

   下文即將介紹邏輯電路問題。這是第一個NPC問題。其它的NPC問題都是由這個問題約化而來的。因此，邏輯電路問題是NPC類問題的“鼻祖”。
   邏輯電路問題是指的這樣一個問題：給定一個邏輯電路，問是否存在一種輸入使輸出為True。

   邏輯電路問題屬於NPC問題。這是有嚴格證明的。它顯然屬於NP問題，並且可以直接證明所有的NP問題都可以約化到它（不要以為NP問題有無窮多個將給證明造成不可逾越的困難）。證明過程相當複雜，其大概意思是說任意一個NP問題的輸入和輸出都可以轉換成邏輯電路的輸入和輸出（想想計算機內部也不過是一些 0和1的運算），因此對於一個NP問題來說，問題轉化為了求出滿足結果為True的一個輸入（即一個可行解）。

   有了第一個NPC問題後，一大堆NPC問題就出現了，因為再證明一個新的NPC問題只需要將一個已知的NPC問題約化到它就行了。後來，Hamilton 迴路成了NPC問題，TSP問題也成了NPC問題。現在被證明是NPC問題的有很多，任何一個找到了多項式演算法的話所有的NP問題都可以完美解決了。因此說，正是因為NPC問題的存在，P=NP變得難以置信。P=NP問題還有許多有趣的東西，有待大家自己進一步的挖掘。攀登這個資訊學的巔峰是我們這一代的終極目標。現在我們需要做的，至少是不要把概念弄混淆了。

 

更詳細的，以下轉自：http://blog.csdn.net/crfoxzl/article/details/2192957

NP問題就是指其解的正確性可以在多項式時間內被檢查的一類問題。比如說陣列求和，得到一個解，這個解對不對呢，顯然是可以在多項式時間內驗證的。再比如說SAT，如果得到一個解，也是能在多項式時間內驗證正確性的。所以SAT和求和等等都是NP問題。然後呢，有一部分NP問題的解已經可以在多項式時間內找到，比如陣列求和，這部分問題就是NP中比較簡單的一部分，被命名為P類問題。那麼P以外的NP問題，就是目前還不能夠在多項式時間內求解的問題了。會不會將來某一天，有大牛發明了牛演算法，把這些問題都在多項式時間內解決呢？也就是說，會不會所有的NP問題，其實都是P類問題呢，只是人類尚未發現呢？NP=P嗎？

可想而知，證明NP=P的路途是艱難的，因為NP問題實在太多了，要一一找到多項式演算法。這時Stephen A. Cook這位大牛出現了，寫了一篇The Complexity of Theorem Proving Procedures，提出了一個NP-complete的概念。NPC指的是NP問題中最難的一部分問題，所有的NP問題都能在多項式時間內歸約到NPC上。所謂歸約是指，若A歸約到B，B很容易解決，則A很容易解決。顯然，如果有任何一道NPC問題在多項式時間內解決了，那麼所有的NP問題就都成了P類問題，NP=P就得到證明了，這極大的簡化了證明過程。那麼怎樣證明一個問題C是NP完全問題呢？首先，要證明C是NP問題，也就是C的解的正確性容易驗證；然後要證明有一個NP完全問題B，能夠在多項式時間內歸約到C。這就要求必須先存在至少一個NPC問題。這時Cook大牛就在1971年證明了NP完全問題的祖先就是SAT。SAT問題是指給定一個包含n個布林變數的邏輯式，問是否存在一個取值組合，使得該式被滿足。Cook證明了SAT是一個NPC問題，如果SAT容易解決，那麼所有NP都容易解決。Cook是怎樣做到的呢？

他通過非確定性圖靈機做到的。非確定性圖靈機是一類特殊的圖靈機，這種機器很會猜，只要問題有一個解，它就能夠在多項式時間內猜到。Cook證明了，SAT總結了該機器在計算過程中必須滿足的所有約束條件，任何一個NP問題在這種機器上的計算過程，都可以描述成一個SAT問題。所以，如果你能有一個解決SAT的好演算法，你就能夠解決非確定性圖靈機的計算問題，因為NP問題在非圖機上都是多項式解決的，所以你解決了SAT，就能解決所有NP，因此——SAT是一個NP完全問題。感謝Cook，我們已經有了一個NPC問題，剩下的就好辦了，用歸約來證明就可以了。目前人們已經發現了成千上萬的NPC問題，解決一個，NP=P就得證，可以得千年大獎（我認為還能立刻獲得圖靈獎）。

那麼肯定有人要問了，那麼NP之外，還有一些連驗證解都不能多項式解決的問題呢。這部分問題，就算是NP=P，都不一定能多項式解決，被命名為NP-hard問題。NP-hard太難了，怎樣找到一個完美的女朋友就是NP-hard問題。一個NP-hard問題，可以被一個NP完全問題歸約到，也就是說，如果有一個NP-hard得到解決，那麼所有NP也就都得到解決了。

 

參考文獻：

1.什麼是P問題、NP問題和NPC問題 ：http://www.matrix67.com/blog/archives/105

2.P/NP/NPC/NP-hard概念的圖形解釋:

http://www.cnblogs.com/jpcflyer/archive/2012/04/15/2450622.html

3.什麼是NP問題，什麼是NP hard問題，什麼是NP完全問題 :

http://blog.csdn.net/com_stu_zhang/article/details/7248277