前幾年的“人工智慧熱”讓大小廠商陸續跳入AI晶片的研發大軍中，而當這股潮水褪去，當初的50多家公司大多數都黯然退出歷史舞臺，如今只剩10家左右。AI晶片的風口已然過去。據艾瑞諮詢釋出的2019年《AI晶片行業研究報告》指出，目前AI晶片行業接近Gartner技術曲線泡沫頂端，只有透過市場檢驗和篩選的優質團隊才能夠繼續獲得產業、政策和資本的青睞與支援。
隨著AI晶片進入深水區，人們更關注的不再是單純的算力，還有對應用落地和商業化的支援：進入了哪些場景？合作了哪些客戶？有沒有軟硬一體化方案？是否已經有實際案例？……“AI落地難”已成行業共識，浮華過後，AI晶片接下來將進入市場檢驗真理的階段。
AI晶片為何落地難？
首先，我們來看下當前AI晶片的格局。目前市面上AI晶片主要分為雲端AI晶片與終端AI 晶片，雲端AI晶片主要部署在大型伺服器中，可支援影像、語音等不同類別的AI 應用；終端晶片則被放在音響、攝像頭等硬體裝置中。由於雲端晶片起步較早，且所需要協同的CPU/GPU等硬體成本投入規模高，該領域已被英偉達、Intel等巨頭瓜分殆盡；國內一眾AI從業者大多選擇發力在終端晶片領域，如自動駕駛、安防、零售、智慧硬體等。但AI晶片終端市場細分化、碎片化、應用場景不明確也是一大難題。
至於AI晶片落地難的原因可能有無數個。例如，晶片研發比AI語言的更迭速度慢，當晶片面市時，其採用的AI語言可能已經過時了。這種問題首先體現在量產，但歸根結底，缺乏殺手級應用場景才是最致命的。AI晶片廠商高投入研發過後，卻不知道自己的產品要賣給哪些客戶或者說應用到哪些產品上，無法找到可持續性的落地場景。
地平線的聯合創始人兼副總裁黃暢表示，缺乏殺手級應用使得現有的AI晶片大多沒有清晰的定位，無法高度最佳化PPA。做半導體的都知道PPA有多麼重要，尤其是Performance。AI晶片需要針對應用場景進行設計，以此來指導研發調整最佳化方向，引導客戶進行正確選擇，同時能夠促進行業有序協同向前發展。
再者，使用者接受度也不高，AI應用所需要的資料閉環難以形成。需要明確的是，AI應用開發模式與傳統軟體開發流程不同，傳統軟體開發可清晰定義功能，透過程式設計就能實現；而AI應用則要透過示例（資料）來定義功能再進行開發，需要形成資料閉環，且自動迭代。
“AI是一個全新領域，AI晶片需要支撐的不僅是AI計算，更要面向場景，實現完整的功能。晶片公司多年的積累不是主要矛盾，其主要矛盾是如何將軟硬體結合起來，開發出一個高效能、低功耗、低成本，同時能夠又快又準的完成自主機器人的任務。AI晶片的成功不止於將ISP調的好，能夠看清楚；也不是將傳統的語音演算法做的更精進，更不是說一個傳統的車規晶片公司把CPU和DSP升級成一個NPU，AI晶片沒有那麼簡單。”黃暢如是說。
在紛繁複雜的碎片化終端市場中，最需要什麼樣的AI晶片？黃暢認為：“需要的是能極致最佳化PPA的AI晶片，這個PPA的提升需是數量級的，要能適應未來數年的演算法演進，同時充分考慮演算法發展，從而能真正替代GPU。”
但黃暢也告訴半導體行業觀察記者，目前AI晶片也有其可取之處，例如，大多數AI晶片的工具鏈都能對場景深度學習框架有比較好的支援，也培養了一些開發者，在開發成本上有一定的降低，減少了對於Cuda之類的程式設計生態的依賴。
誰來定義AI晶片的“好壞”？
都說AI晶片難落地，客戶難評判，那麼一款AI晶片的“好壞”究竟如何來評估呢？是TFLOPS？是TOPS？還是MLPerf？AI晶片界好像依然沒能找到完美體現真實效能的衡量標準。
為何這麼說？目前業界慣常使用的晶片評測標準有兩種，一是峰值算力，但這隻反映AI晶片理論上的最大計算能力，而非在實際AI應用場景中的處理能力，具有很大的侷限性；二是目前行業較為知名的基準測試組織MLPerf，但其採用的模型少且更新速度滯後於演算法演進的速度，無法及時反映演算法效率的提升以及各種精度下晶片能夠達到的計算速度，因而無法描述晶片AI效能的全貌。
針對當前AI晶片評測中存在的問題，地平線提出MAPS（Mean Accuracy-guaranteed Processing Speed）評測方法，針對應用場景的特點，在精度有保障的前提下，包容所有與演算法相關的選擇，評估晶片對資料的平均處理速度。為行業提供一個評估晶片AI效能的全新視角。
“評估晶片AI效能，本質上應該關注做AI任務的速度和精度，即‘多快’和‘多準’。”
黃暢介紹說：“MAPS評測方法，能關注真實的使用者價值，將每顆晶片在‘快’和‘準’這兩個關鍵維度上的取捨變化直觀地展現出來，並在合理的精度範圍內，評估晶片的平均處理速度。這個方法具有視覺化和可量化的特點。”
MAPS 聚焦“快”和“準”兩個關鍵評測維度，用最優幀率精度所圍面積直接體現 AI 晶片的最強能力按照黃暢的說法，這個全新的MAPS評估方式對行業來說有六大創新之處：
- 第一，它將晶片的Benchmark透過圖形變得視覺化，表達更精準；
- 第二，該方式關注真實、面向結果的需求，只在乎精度和速度，不在乎中間任何關於演算法的取捨和選擇；
- 第三，可以統一表示精度與速度，關注主流精度區間；
- 第四，隱藏與最終結果無關的中間變數，包括模型、輸入大小、批處理的量是多大；
- 第五，透過MAPS評估方法可以在算力之外幫助使用者理解這個晶片到底能跑多快以及多好；
- 第六，留有最大的空間引導客戶使用最優的方式使用某一顆晶片，這一點非常重要，是去真正指導客戶使用這個晶片的最佳實踐。
晶片是個生態系統，單獨依靠一家之力是玩不轉的。地平線的MAPS評估標準最重要的意義是讓行業能夠形成一種合力，讓大家更好的協同，不管你是買方還是賣方，大家都有一個相對清晰的目標，容易形成共識、形成協力，這樣才好健康地去推動整個行業往前發展。黃暢表示。
AI晶片花開兩朵：“旭日”東昇，“征程”萬里
有了好的評估標準之後，AI產業向好，經歷過大風大浪的AI晶片，最終將落在哪些場景中呢？作為一家以“為客戶提供的智慧化價值”的人工智慧公司，地平線將其AI晶片的種子灑向了AIoT和自動駕駛航道，花開兩朵，同心向陽。
“做AI晶片需要企業有很強的洞察力，要在三五年前找到落腳點，以創造真實的價值為導向，本著長期主義的精神堅持不懈的走下去。”黃暢談到。
自動駕駛被看作是AI晶片的殺手級應用的潛力市場，近年來伴隨智慧駕駛滲透率的提升，全球晶片巨頭也在紛紛向汽車這個產業靠攏。汽車AI晶片市場未來仍是各大巨頭競爭角逐之地。目前在AI自動駕駛方面，國外的英偉達、英特爾、特斯拉，國內的華為、地平線、寒武紀以及芯馳科技等一眾廠商都在深耕這個領域。
地平線是中國最早進入AI晶片領域的人工智慧企業。2015年，在國內AI晶片仍未進入大眾視野時，地平線公司成立，率先提出軟硬結合的BPU晶片架構；2017年，釋出中國第一款邊緣AI晶片：旭日一代和征程一代；2018年，征程晶片助力國際頂尖Robotaxi車隊；2019年，宣佈正式量產中國首款車規級AI晶片征程2。
這幾年，地平線在商業化的道路上越走越穩。就拿征程2 來說，該產品可全方位實現車內場景化感知，並基於感知結果為使用者提供更精準的智慧推薦以及智慧車控等服務。
今年3月份，地平線征程2登陸長安UNI-T前裝量產，使長安UNI-T成為首款搭載國產人工智慧晶片的智慧汽車，而且也讓它走在了世界前列，成為全球首款智慧人機互動SUV。
眾所周知，車載AI晶片是人工智慧行業的珠穆朗瑪，也是自動駕駛實現大規模落地的前提。車規級晶片產品的開發週期長、難度大，是硬科技、長跑道的創新。在汽車晶片如此高標準以及長供貨週期、與主機廠長久的合作關係下，汽車晶片一旦能夠量產，其供應格局相對來說就較為穩定。
雖然，相比市場前景更大、場景更為複雜的自動駕駛，地平線在AIoT領域的聲量較小，但其重視程度絲毫不差。據瞭解，其旭日系列晶片所服務的客戶已過百家。去年釋出的旭日2的表現也相當亮眼，在旭日2上的實際測試結果表明，分類模型 MobileNet V2 的執行速度超每秒 700 張圖片，實際效能能夠達到甚至超過業內標稱 4TOPS 算力的 AI 晶片。
在AIoT領域，地平線堅持底層技術能力研發與解決方案的打造，加速普惠 AI 時代到來；在開發者生態方面，地平線則透過工具鏈服務降低開發者門檻，助力上層應用產生，以此豐富整個 AIoT 應用生態，用行業的力量推動行業。目前，地平線已攜手上百家 AIoT合作伙伴為產業提供賦能服務，實現線下場景服務數千萬人口。
結語
自去年旭日2的釋出，又經過近一年的商業化落地和技術錘鍊，面向AIoT市場的旭日3正呼之欲出。在此，想劇透下，此前，地平線有在ImagetNet模型上進行了一項MAPS測試，下圖中有一顆地平線即將推出的晶片，在與表現最優的標稱11.4TOPS峰值算力的AI晶片對比中，新的晶片雖然在高精度上稍有劣勢，但在追求速度和低延遲等場景中會有不俗的表現。9月9日上午，“地平線”盡頭將再次升起一輪“旭日”！
ImageNet影像分類 75~80.5%精度範圍內， MAPS 評估方式下的主流晶片測試結果（右一折線為地平線最新一代晶片測試結果）