編者按：隨著各大公司對於資料計算的要求越來越高，實時AI成為了研究者們關注的重點。在美國西雅圖舉行的微軟Build開發者大會上，微軟釋出了最新的基於FPGA的Project Brainwave預覽版。Project Brainwave是一個旨在加速實時AI計算的硬體架構，能夠部署在Azure雲端以及邊緣裝置上，幫助使用者實現低成本的實時AI計算。本文譯自微軟人工智慧部落格“Real-time AI: Microsoft announces preview of Project Brainwave”
本週，在美國西雅圖舉行的微軟Build開發者大會上，微軟釋出了Project Brainwave預覽版，並將其整合到了Azure機器學習服務中。Project Brainwave是一個旨在加速實時AI計算的硬體架構，部署在名為“現場可程式設計門陣列（Field Programmable Gate Array，簡稱FPGA）”的英特爾計算機晶片上。與最流行的行業基準相比，Project Brainwave可以將實時AI計算的延遲時間降到最小，並且成本控制在可接受的範圍。Project Brainwave預覽版的釋出將使Azure成為最高效的AI雲端計算平臺，也是讓FPGA成為通用型平臺的第一步。
Project Brainwave硬體模型
Esri是一家地理資訊分析公司，每天需要處理各種來自衛星影像、影片資料流和感測器訊號等異構資料。資料的處理需要高強度的密集計算，常常會導致計算延遲。
同時，Esri公司對海量資料實時處理能力的要求也越來越高。例如，公司希望從數千條影片中提取資訊，對汽車、腳踏車、公交車、行人和其它物體進行偵測，以便了解當前的交通狀況和異常情況；或者公司希望透過對衛星資料進行實時分析，來偵測受損住宅等各種不同物體。
因此，Esri公司需要藉助微軟Project Brainwave進行更加高效和低成本的實時AI分析。
Project Brainwave預覽版能為客戶提供超高速影像識別能力，它還可以讓使用者進行基於AI的實時計算，而不用將任務進行分拆再進行單獨計算。目前，Project Brainwave支援深度學習框架TensorFlow，也將支援微軟認知工具包。
除了整合到Azure平臺，微軟還將Project Brainwave推廣應用到“邊緣裝置”上，這樣使用者仍然可以在不聯網的情況下利用Project Brainwave獲得業界領先的計算速度。不用聯網的Brainwave可以被直接嵌入到生產裝置中，這樣計算不需要每次都在雲端執行，哪怕每次只能節省很少的時間和金錢成本，也會形成累積效應，產生巨大的效益。
早在Project Brainwave處於探索階段時，FPGA就已經不算是什麼新鮮事物了，但在此之前從未有人認真考慮過將它用於大規模計算。所以微軟的研究團隊開始著手驗證FPGA用於更貼近實際場景的可行性。
最開始，Project Brainwave團隊將這一技術在必應搜尋引擎和Azure雲中進行落地。
微軟高階研究員、Brainwave專案技術負責人Eric Chung表示，必應必須是一項“低延遲”的服務——當使用者在必應搜尋框中輸入搜尋查詢時，他們希望能夠瞬間獲得搜尋結果。這意味著必應工程師要在不犧牲毫秒級響應速度的前提下不斷設法提高搜尋結果的質量。而與此同時，搜尋引擎資料庫中的資料，無論在數量和型別上都是在不斷增加的。藉助可程式設計硬體FPGA，團隊得以將基於深層神經網路的搜尋技術迅速融入到必應中，極大提升了系統返回搜尋結果的速度。
過去幾年間，微軟也一直在使用FPGA來加速Azure雲端計算平臺。
AI要實時處理海量資料
Project Brainwave團隊負責人Doug Burger而Project Brainwave剛好能夠滿足AI計算的需求。其硬體設計可以迅速演進，並在每次改進後能夠重新對映到FPGA，滿足快速變化中的AI演算法要求。
與其它型別的計算機晶片相比，FPGA更加靈活，可以根據AI領域的最新發展快速地進行重新程式設計。
隨著AI處理的任務越來越複雜（例如分析影片內容等非結構化資料）以及AI演算法的複雜度越來越高（例如用於執行諸如“在這些影片中搜尋所有關於海濱城市的鏡頭”等搜尋指令），人們對於能夠以合理成本快速處理AI任務的系統的需求只會越來越大。
捷普集團 (Jabil）是全球領先的電子技術解決方案提供商。每天，工人都會在流水線上將成千上萬個零部件裝配成產品，然後交付給客戶。在這個過程中，自動光學檢測系統會對這些產品進行掃描，查詢出所有潛在的異常情況，隨後，系統會將異常的產品送去進行手工檢查。高速運轉的系統要求手工檢查員在幾秒鐘內就要判定出某件產品是否確實存在缺陷。
為了讓AI能夠更加快速、準確地監測影像，減少系統錯誤的異常警報，捷普集團與微軟合作，利用微軟Project Brainwave來提高AI的計算速度。此外，研究人員還在探索如何利用Project Brainwave更好地預測製造裝置需要維護的時間，從而減少停產維修的時間。
從影像分析、搜尋引擎到智慧製造，人們對實時AI計算的需求正變得越來越多，我們希望微軟Project Brainwave能夠推動實時AI計算的發展，讓AI帶給我們更多的可能性。