IT業的理論奠基人夏農

騰訊科技發表於2014-02-27

  今天是美國數學家、資訊理論的創始人克勞德艾爾伍德夏農(Claude Elwood Shannon)去世13週年的紀念日,夏農一生的最大貢獻主要有兩個:一個是資訊理論、資訊熵的概念,另一個是符號邏輯和開關理論,這些理論為資訊理論和數字通訊奠定了基礎。

  夏農1916年4月30日出生於美國密歇根州的Petoskey,在Gaylord小鎮長大。父親是鎮上的法官,母親是鎮裡的中學校長,他們為夏農提供了一個良好的教育環境。

  然而對夏農的科學影響最大的還是其祖父,他的祖父曾發明過洗衣機和一些農業機械,給夏農造成了最為直接的影響。夏農跟著名的發明家愛迪生也有遠親的關係。

  夏農的主要成就是它提出了資訊熵的概念,他證明了熵與資訊內容的不確定程度有等價關係。熵是玻爾茲曼在熱力學第二定律引入的概念,指的是分子運動的混亂度。資訊熵也有類似的意義,資訊熵大,意味著不確定性也大。

  熵在控制論、概率論、數論、天體物理和生命科學等領域都有重要應用,在很多領域中都有十分重要的意義。夏農是最早將熵引進資訊理論的人。

  夏農分別在1948年和1949年在《貝爾系統技術雜誌》(Bell System Technical Journal)上發表的題為《通訊的數學原理》以及《噪聲下的通訊》等兩篇論文,闡述了通訊的基本問題,給出了通訊系統的模型,提出了資訊量的數學表示式,並解決了通道容量、信源統計特徵、信源編碼、通道編碼等一系列基本技術問題,被公認為資訊理論的奠基性著作。

  夏農在進行資訊的定量計算的時候,明確地把資訊量定義為隨機不定性程度的減少。這就表明了他認為資訊是用來減少隨機不定性的東西。

  雖然夏農定義的資訊概念比以前有了巨大的進步,但仍然沒有將資訊的內容和價值包括進來,只考慮了隨機不定性,而沒有從根本上回答“資訊是什麼”的問題。

  除了資訊理論和資訊熵的概念之外,夏農對人類社會的另一個重大貢獻是他提出的符號邏輯和開關理論。

  貝爾實驗室(Bell Lab)和麻省理工學院(MIT)都尊崇夏農為資訊理論及數字通訊時代的奠基人。是他將布林代數的“真”與“假”與電路的“開”與“關”對應起來,並用1和0表示。他用布林代數分析並優化開關電路,這就奠定了數位電路的理論基礎,這也是從理論轉換到實際產品設計的一個重要的環節。

  夏農1936年畢業於密歇根大學並獲得數學和電子工程學士學位,1940年獲得麻省理工學院數學博士學位和電子工程碩士學位,1941年他加入貝爾實驗室數學部,工作到1972年,1956年他成為麻省理工學院(MIT)客座教授,1958年成為終生教授,1978年成為名譽教授。夏農博士於2001年2月26日去世,享年84歲。

  除了在普林斯頓高等研究院工作過一年外,夏農一生的大部分時間都在麻省理工學院和貝爾實驗室度過。二戰期間,夏農曾領導貝爾實驗室的破譯團隊進行過破譯工作,主要是追蹤德國的飛機和火箭。

  雖然夏農在公眾中並不是特別的知名,但他一生獲得過許多的榮譽和獎勵,例如1949年Morris獎、1955年Ballantine獎、1962年Kelly獎、1966年的國家科學獎章、IEEE的榮譽獎章、1978年Jaquard獎、1983年Fritz獎、1985年基礎科學京都獎。

相關文章