AI晶片大戰，IP將扮演什麼角色?
半導體行業觀察發表於2020-03-24
近年來，我們看到人工智慧(AI)和機器學習(ML)的應用擴充套件到更廣泛的計算機和移動應用領域。現在，就像低成本圖形處理單元(GPU)的普及推動了深度學習革命一樣，硬體設計(而不是演算法)被預測為下一個重大發展提供基礎。隨著大型企業，初創企業和中小型企業等公司爭相建立支援AI生態系統的基本AI加速器技術，包括智慧財產權（IP）在內的無形資產的保護將成為該領域成功的關鍵方面之一。近年來，ML模型的size大幅增加（大約每3.5個月翻一番），已成為ML模型準確性增長的主要驅動力之一。為了保持這種近乎摩爾定律的複雜性增長，市場上對新型AI加速器有明確的需求，這些型別的AI加速器可以支援更先進的ML模型（用於訓練和推理）。在新的AI晶片中特別受益的領域之一是邊緣AI推理。這種在裝置本身而不是在遠端（通常是雲）伺服器上執行AI推理的相對較新的趨勢提供了許多潛在的好處，例如消除了處理過程中的等待時間並減少了資料傳輸和頻寬，還可能增加了隱私和安全性。鑑於這些優勢，邊緣AI晶片市場的增長令人矚目。2017年才推出首款商用企業邊緣AI晶片，但Deloitte預測，2020年邊緣AI晶片的銷量將超過7.5億片。2018年，全球AI晶片市場整體價值66.4億美元，預計未來幾年將大幅增長，到2025年將達到911.9億美元，複合年增長率為45.2％。因此，可以理解的是，許多公司都在致力於開發AI晶片。但是，該市場有望經歷與CPU，GPU和基帶處理器市場相似的增長週期，最終將由一些大型廠商主導。智慧財產權（尤其是專利）是英特爾(Intel)、高通(Qualcomm)和ARM等家喻戶曉的公司取得成功的關鍵，它很可能在人工智慧晶片領域扮演類似的重要角色。參與AI晶片市場競爭的公司範圍涵蓋英特爾，高通，ARM或英偉達等“晶片巨頭”，再到傳統上專注網際網路的科技公司（例如Alphabet或百度），以及眾多利基實體，包括Graphcore，Mythic或Wave Computing。各種通常看起來像晶片市場“局外人”的大公司也參與其中——例如，由於絕大多數邊緣 AI晶片（90%）目前都進入消費裝置領域，因此許多智慧手機制造商都沒有錯失這一機會並開發了他們自己的AI加速器（例如，iPhone系列中使用的蘋果公司的八核神經引擎）。這場競賽目前仍未決定誰將佔據主導地位。技術專家和投資者都將密切關注哪些公司的技術最有前途，這個領域將不可避免地在投資、收購和失敗中發展。在未來幾年內，我們可以期待看到市場領導者的出現。誰將成為人工智慧晶片領域的王者，CPU市場是英特爾(77%的市場份額)，基帶處理器市場是高通(43%的市場份額)?當前的領先者似乎是英特爾和英偉達。據路透社報導，英特爾的處理器目前在AI推理市場上占主導地位，而英偉達則在AI訓練晶片市場上占主導地位。英特爾(Intel)和英偉達(Nvidia)都沒有固步自守，這從它們最近的收購和產品釋出中就可以看出，這兩家公司的目標似乎都是“取代”對方。就在2019年12月，英特爾斥資20億美元收購了總部位於以色列的深度學習加速器開發商Habana Labs。Habana的Goya和Gaudi加速器包括許多技術創新，例如支援遠端直接記憶體訪問（RDMA）–從一臺計算機的記憶體直接訪問另一臺計算機的記憶體，而無需使用任何計算機的作業系統–該功能對大規模平行計算機叢集特別有用。因此，可以在雲上（英偉達目前占主導地位）訓練複雜模型。另一方面，英偉達最近釋出了其Jetson Xavier NX邊緣AI晶片，該晶片具有高達21 TOPS的驚人加速計算能力，尤其是針對AI推理。一些規模較小的公司也令人興奮，例如總部位於布里斯托爾的Graphcore，或總部位於美國的Mythic。Graphcore最近與微軟合作，以19.5億美元的估值籌集了150mat美元。他們的旗艦產品——智慧處理單元(IPU)——擁有令人印象深刻的效能指標和有趣的架構——例如，IPU將整個ML模型儲存在處理器內部，使用處理器記憶體來最大限度地減少延遲和最大化記憶體頻寬。Mythic的體系架構同樣值得關注,它結合了硬體技術，如computing-in-memory(無需構建快取層次結構),資料流體系架構(特別適用於基於圖的應用程式，例如推理),和模擬計算(使用儲存器元件作為可調電阻，直接在儲存器內部計算神經網路矩陣運算)。Mythic在商業方面也不落後於Graphcore——它在2019年6月從家庭投資者（如軟銀）獲得了3000萬美元的融資。目前尚不清楚誰最終將主導AI晶片市場，但從CPU和基帶處理器領域等歷史發展中得到的一個重要教訓是，智慧財產權在決定誰將勝出、誰將長期生存方面起著重要作用。英特爾或高通等公司提交的專利申請數量表明，強大的專利組合對於晶片市場商業成功的重要性。這些專利自1996年以來一直在增加，現在每年約有10000個已公佈的專利系列。考慮到晶片設計反向工程的內在可能性和fabless模式在業界的普遍使用，任何實體都很難在沒有專利組合的情況下保護其智慧財產權，同時輔以其他形式的保護，如商業機密（或“專有技術”）。晶片行業的許多市場領導者都圍繞著專利授權建立了自己的商業模式。值得注意的例子包括高通和ARM控股。儘管高通的大部分收入來自晶片製造，但它的大部分利潤來自專利授權業務。高通的授權許可業務過去兩年可能受到影響，但這在很大程度上是由於與蘋果(Apple)的糾紛。蘋果已向高通一次性支付45億美元和解金，兩家公司未來還將簽署一項為期6年的授權協議，從而解決了蘋果與高通之間的糾紛。ARM更進一步，幾乎所有的收入都來自IP授權，而從未出售過自己的晶片。專利授權對高通和ARM來說非常有利可圖，對那些在人工智慧晶片領域建立了強大專利組合的公司來說，可能也同樣有利可圖。ARM的商業模式將為那些沒有資源涉足晶片製造的初創企業提供一個有吸引力的選擇，即使是在規模較小的公司成長之際，透過保持 fabless生產來降低風險的動機也將保持強勁。對於那些有意被收購的初創公司來說，毫無疑問，智慧財產權對於最強勁的估值至關重要。如果不是因為Habana的專利組合可以追溯到2016年，英特爾不太可能在2019年底以20億美元的價格收購Habana;如果Graphcore沒有超過60個專利系列(共享同一初始專利申請的專利組)，它也不太可能與微軟合作，獲得其目前19.5億美元的估值。因此，投資者的退出策略仍然決定了對健全的智慧財產權策略的需要。相關部門的另一個重要教訓是與專利侵權相關的巨大風險和報酬。就在2020年1月，蘋果和Broadcom因侵犯Cal Tech的Wi-Fi技術專利而被判支付11億美元的賠償金，法院裁定該專利被用於Broadcom的無線晶片中。據彭博社報導，這是有史以來第六大與專利有關的判決。因此，企業出於進攻和防守目的建立自己的專利組合的必要性仍然很明確（防禦組合意味著可能會受到反訴訟，從而免受競爭對手專利訴訟的影響）。企業沒有忽視智慧財產權問題，有記錄顯示，人工智慧晶片領域已有2000多個專利系列。新專利申請數量正在迅速增加——僅英特爾一家就在過去5年裡為人工智慧晶片提交了160份專利申請。因此，現有的市場領導者和新進入者都應注意英特爾的做法，並要謹記不要錯過智慧財產權保護對其發明的重要性，尤其是在早期階段。在過去的二十年中，圍繞智慧財產權尤其是專利法的法律環境發生了很大變化。歷史專利和技術出版物的數量不斷增加，這也繼續提高了對專利局和專利所有人尋求保持專利質量的要求。然而，毫無疑問，智慧財產權將再次證明在這個新興行業的重要性。經驗豐富的技術人員和智慧財產權從業人員將利用過去的經驗教訓來完善他們的戰略，而那些採用正確方法的公司將獲得成功，這不僅取決於他們技術的優點，而且取決於如何充分利用他們的智慧財產權。