IT業的理論奠基人夏農
今天是美國數學家、資訊理論的創始人克勞德艾爾伍德夏農(Claude Elwood Shannon)去世13週年的紀念日,夏農一生的最大貢獻主要有兩個:一個是資訊理論、資訊熵的概念,另一個是符號邏輯和開關理論,這些理論為資訊理論和數字通訊奠定了基礎。
夏農1916年4月30日出生於美國密歇根州的Petoskey,在Gaylord小鎮長大。父親是鎮上的法官,母親是鎮裡的中學校長,他們為夏農提供了一個良好的教育環境。
然而對夏農的科學影響最大的還是其祖父,他的祖父曾發明過洗衣機和一些農業機械,給夏農造成了最為直接的影響。夏農跟著名的發明家愛迪生也有遠親的關係。
夏農的主要成就是它提出了資訊熵的概念,他證明了熵與資訊內容的不確定程度有等價關係。熵是玻爾茲曼在熱力學第二定律引入的概念,指的是分子運動的混亂度。資訊熵也有類似的意義,資訊熵大,意味著不確定性也大。
熵在控制論、概率論、數論、天體物理和生命科學等領域都有重要應用,在很多領域中都有十分重要的意義。夏農是最早將熵引進資訊理論的人。
夏農分別在1948年和1949年在《貝爾系統技術雜誌》(Bell System Technical Journal)上發表的題為《通訊的數學原理》以及《噪聲下的通訊》等兩篇論文,闡述了通訊的基本問題,給出了通訊系統的模型,提出了資訊量的數學表示式,並解決了通道容量、信源統計特徵、信源編碼、通道編碼等一系列基本技術問題,被公認為資訊理論的奠基性著作。
夏農在進行資訊的定量計算的時候,明確地把資訊量定義為隨機不定性程度的減少。這就表明了他認為資訊是用來減少隨機不定性的東西。
雖然夏農定義的資訊概念比以前有了巨大的進步,但仍然沒有將資訊的內容和價值包括進來,只考慮了隨機不定性,而沒有從根本上回答“資訊是什麼”的問題。
除了資訊理論和資訊熵的概念之外,夏農對人類社會的另一個重大貢獻是他提出的符號邏輯和開關理論。
貝爾實驗室(Bell Lab)和麻省理工學院(MIT)都尊崇夏農為資訊理論及數字通訊時代的奠基人。是他將布林代數的“真”與“假”與電路的“開”與“關”對應起來,並用1和0表示。他用布林代數分析並優化開關電路,這就奠定了數位電路的理論基礎,這也是從理論轉換到實際產品設計的一個重要的環節。
夏農1936年畢業於密歇根大學並獲得數學和電子工程學士學位,1940年獲得麻省理工學院數學博士學位和電子工程碩士學位,1941年他加入貝爾實驗室數學部,工作到1972年,1956年他成為麻省理工學院(MIT)客座教授,1958年成為終生教授,1978年成為名譽教授。夏農博士於2001年2月26日去世,享年84歲。
除了在普林斯頓高等研究院工作過一年外,夏農一生的大部分時間都在麻省理工學院和貝爾實驗室度過。二戰期間,夏農曾領導貝爾實驗室的破譯團隊進行過破譯工作,主要是追蹤德國的飛機和火箭。
雖然夏農在公眾中並不是特別的知名,但他一生獲得過許多的榮譽和獎勵,例如1949年Morris獎、1955年Ballantine獎、1962年Kelly獎、1966年的國家科學獎章、IEEE的榮譽獎章、1978年Jaquard獎、1983年Fritz獎、1985年基礎科學京都獎。
相關文章
- 克勞德·夏農(資訊理論之父):天才的解決問題之道
- 資訊熵(夏農熵)熵
- 夏農熵-互資訊-entropy熵
- 奈奎斯特定理與夏農定理
- “三夏”農忙:EasyCVR/EasyDSS無人機推流直播技術助推現代農業走向智慧化VR無人機
- 夏農的“創意思維"在程式設計的應用程式設計
- 農業CRM系統幫助建設新農村和休閒農業
- 最終資訊模式:終結夏農極限,語義通訊的另類空間模式
- 當貝葉斯,奧卡姆和夏農一起來定義機器學習機器學習
- 農業氣象綜合監測站:智慧農業新時代的領航者
- 行業生命週期理論(轉載)行業
- 做好智慧農業需從農業物聯網普及開始
- 分散式理論(二) - BASE理論分散式
- 理論
- 農業農村部:2021年中國農產品加工業經濟執行報告
- 農業農村部:2023年農產品加工業經濟執行報告
- 農業氣象綜合監測站:農業智慧化革命的強力助推器
- 數字農業報告:中國農村電商的發展經驗
- 資訊理論理論學習筆記筆記
- 73年前,夏農已經給大模型發展埋下一顆種子大模型
- 農業農村部:2020年中國農產品加工業經濟執行報告
- 聯合國糧農組織:農業食品行業中區塊鏈應用的新機遇行業區塊鏈
- weiit—農業網際網路解決方案,助力農業數字化
- 現代農業之智慧農業物聯網系統解決方案
- 第四家專業農業保險公司 國元農險將誕生
- 智慧農業解決方案
- 卡位農業大資料大資料
- 農業機器人崛起機器人
- 關於農業種植的若干思考
- 首家專業農業保險公司合肥開業
- AI遇上農業會怎樣?最新UNT《智慧農業》2022全面綜述農業4.0發展的架構、技術、應用等AI架構
- [討論]IT專案經理需要很專業的IT知識嗎
- NWPU-演算法設計理論作業演算法
- 農業環境實時監測,助力打造智慧農業數字鄉村
- 網際網路+農業再獲突破 農業資訊化享萬億藍海
- 農業資料智慧化:免費視覺化工具助力精準農業視覺化
- 看日本農民用智慧農業技術都做了什麼
- 軟體測試理論(1)基礎理論