亟待人工智慧轉型的企業,往往首先面臨在技術硬體上的選擇:
實際應用中,特別是在解決複雜問題時,不少人認為,需要先建立CPU平臺,在此硬體基礎上來實現路徑的融合搭配,這是企業AI技術路徑更佳的解決方案。
事實上,鑑於資料在AI應用中的重要性,亟待人工智慧轉型的企業,其實還有另一種更快捷、低風險、靈活的選擇——在既有IT基礎設施和資料應用平臺之上構建AI。
這種再認識的過程,可以用《星球大戰》中的一句經典臺詞描述:“原力一直與你同在!”
也就是說:適合多數企業開始AI之旅的平臺、基石,其實一直就在他們的既有IT架構中。
那麼,為什麼企業對於這種能讓他們使用熟悉且信任的基礎設施,無需大量額外投資,還能平滑和低風險地構建AI應用的選擇如此缺乏瞭解呢?
老牌晶片企業英特爾認為,企業這種“燈下黑”式的認知,主要是因為既有IT基礎設施此前未能真正釋放出它在AI應用上的潛能,畢竟,其算力的核心——CPU平臺一直都需要同時滿足多種應用的需求,在全新類別的應用出現時,往往需要一段時間來完成與之相關的優化,特別是軟體上的優化。
圖一,英特爾為AI提供端到端的、全棧式的技術支援,在以至強處理器為核心的硬體平臺之上,還有立足於軟體的三個層面的支援和優化,它們涵蓋了基礎層面、庫的層面和工具層面。根據AI應用需求來充分利用它們,是釋放既有基礎設施潛能的關鍵所在
近日,英特爾完成了面向資料科學家的,針對Caffe、TensorFlow、MXNet、BigDL等主流深度學習框架的優化。這就為為使用庫(Library)的開發者們提供了包括英特爾MKL、MKL-DNN,DAAL在內的優化支援,以及為AI應用的開發者們提供了OpenVINO、Saffron AI等工具包。
這一改進,使得企業既有基礎設施在承載AI應用時已變得更為遊刃有餘。
京東影象檢測提效3.83倍
京東在基於至強的叢集上將影象檢測和提取方案升級為英特爾開源的BigDL,其效能相比原有的基於專有架構的解決方案提升達3.83 倍。由於BigDL允許以Scala或Python編寫深度學習應用程式,也為開發、運維人員帶來了極大便利。
圖二、瞭解一下:至強平臺與BigDL“合體“後的優勢。
UCloud人臉表情識別測試
UCloud基於至強平臺構建的AI線上服務在搭配面向英特爾架構優化的Caffe 框架後,同時執行的執行緒數量顯著增加,整體執行效能提高了10倍以上。它在人臉表情識別的測試中,在併發數為8-16節點時,效能可與專用架構的平臺相媲美。
GE醫療集團的CT影像案例
GE醫療集團在使用至強處理器的四個或四個以下的專用核心對CT影像進行分類測試時發現,使用由英特爾深度學習開發工具包和MKL-DNN生成的優化程式碼,相比在同樣系統上執行的基準TensorFlow模型,在推理吞吐量上平均提高了14倍。
圖三,英特爾至強處理器E5-2650 v4在四個內容上的推理效能超過GE目標接近6倍
愛爾眼科智慧閱片
國內愛爾眼科針對特定眼底病變的智慧閱片平臺在匯入面向英特爾優化的Caffe框架和MKL-DNN 2017的優化後,不但將病變辨識準確率提高到了93%,處理速度也加快達70倍以上。
中國銀聯人工神經網路風控系統
中國銀聯電子商務與電子支付國家工程實驗室基於至強平臺、Cloudera CDH、Apache Spark和BigDL構建的人工神經網路風控系統,與基於規則的風控系統相比,能提供高達20%的正確度,並具備60%的涵蓋率,從而在短短數月內就達到了最佳訓練模式。由該實驗室主導開發的GBDT→GRU→RF三明治結構欺詐偵測模型,在至強平臺以及BigDL、面向英特爾架構優化的TensorFlow、英特爾MKL-DNN和DAAL等框架和工具的支援下,效率也得以大幅提升。
圖四,GBDT→GRU→RF三明治結構欺詐偵測模型在信用卡偽卡偵測場景中的實測結果,其有效F1值(一種準確率和召回率的加權平均值,用於衡量偵測模型效能)超過0.4,遠超其他方法或模型的效能
英特爾認為,企業既有IT基礎設施在AI應用上的潛能還遠未被開發出來。
只需對它稍做升級,如換用效能更強的至強處理器,並匯入英特爾在框架、工具和庫等軟體層面的最新優化,即可充分釋放這種潛能,而且此前談到的至強平臺在AI應用上的相容性、靈活性、便捷和低風險等優勢,也可照單全收。