更快的機器學習即將來到 Linux 核心
Linux 核心新增的異構記憶體管理將解鎖加速 GPU 的新途徑,並挖掘其它的機器學習硬體的潛能
一項開發了很久的記憶體管理技術將會給機器學習和其它 GPU 驅動的程式很大幅度的提升,而它也將在接下來的幾個版本中進入 Linux 核心。
異構記憶體管理(HMM)可以允許裝置驅動為在其自身記憶體管理下的程式映象地址空間。正如紅帽的開發者 Jérôme Glisse 所解釋的,這讓像 GPU 這樣的硬體裝置可以直接訪問程式記憶體,而不用花費複製帶來的額外開銷。它還不違反現代作業系統提供的記憶體保護功能。
一類會從 HMM 中獲益最多的應用是基於 GPU 的機器學習。像 OpenCL 和 CUDA 這樣的庫能夠從 HMM 中獲得速度的提升。HMM 實現這個的方式和加速基於 GPU 的機器學習相似,就是讓資料留在原地,靠近 GPU 的地方,在那裡直接運算元據,儘可能少地移動資料。
像這樣的加速對於 CUDA(英偉達基於 GPU 的處理庫)來說,只會有益於在英偉達 GPU 上的操作,這些 GPU 也是目前加速資料處理的主要硬體。但是,OpenCL 設計用來編寫可以針對多種硬體的程式碼——CPU、GPU、FPGA 等等——隨著這些硬體的成熟,HMM 能夠提供更加廣泛的益處。
要讓 Linux 中的 HMM 處於可用狀態還有一些阻礙。第一個是核心支援,在很長一段時間裡都受到限制。早在 2014年,HMM 最初作為 Linux 核心補丁集提出,紅帽和英偉達都是關鍵開發者。需要做的工作不少,但是開發者認為程式碼可以提交上去,也許接下來的幾個核心版本就能把它包含進去。
第二個阻礙是顯示卡驅動支援,英偉達一直在自己單獨做一些工作。據 Glisse 的說法,AMD 的 GPU 可能也會支援 HMM,所以這種特殊優化不會僅限於英偉達的 GPU。AMD 一直都在嘗試提升它的 GPU 市場佔有率,有可能會將 GPU 和 CPU 整合到同一模具。但是,軟體生態系統依然更青睞英偉達;要使其兌現,還需要更多的像 HMM 這樣的中立專案,以及讓 OpenCL 提供和 CUDA 相當的效能。
第三個阻礙是硬體支援,因為 HMM 的工作需要一項稱作可重現頁面故障的硬體特性。只有英偉達的帕斯卡系列高階 GPU 才支援這項特性。從某些意義上來說這是個好訊息,因為這意味著英偉達只需要提供單一硬體的驅動支援就能讓 HMM 正常使用,工作量就少了。
一旦 HMM 到位,對於提供 GPU 例項的公有云提供商就會面臨壓力,他們需要支援最新最好一代的 GPU。這並不是僅僅將老款的開普勒架構顯示卡換成最新的帕斯卡架構顯示卡就行了,因為後續的每一代顯示卡都會更加優秀,像 HMM 這樣的支援優化將提供戰略優勢。
(題圖:Thinkstock)
作者:Serdar Yegulalp 譯者:alim0x 校對:wxy
相關文章
- 車聯網時代即將到來!?
- [翻譯]看看即將到來的 Laravel 10Laravel
- [譯] 殭屍幣時代即將到來?
- RxJS 5.5: 即將到來的 pipelineJS
- [譯] 即將到來的正規表示式新特性
- 備受矚目的Instant App即將到來APP
- 蘋果AR即將到來!蘋果新專利曝光蘋果
- RHEL 7.0已釋出CentOS 7即將到來CentOS
- 為即將到來的北京冬殘奧會提供技術保障
- 一種新的“反比特幣”貨幣即將到來比特幣
- 微軟:八核CPU的Win10手機即將到來微軟Win10
- 即將到來並可能改變世界的10項技術
- Steam中國即將到來?V社悄然推出Alpha版本
- 即將到來的 Debian 10 Buster 釋出版的新特點
- 獨佔時代或將結束,跨平臺時代即將到來?
- 官方解讀:TensorFlow 2.0中即將到來的所有新特性
- 雙十一即將到來,你的網站真的準備好了嗎?網站
- 新書《即將到來的中國戰爭》(The Coming China Wars)新書
- iPhone 7即將到來:iPhone 6s仍非常保值iPhone
- 物聯網時代即將到來:未來三種職業最吃香
- 同城電商模式趨於成熟 一場變革即將到來!模式
- Chrome標誌著更快速JavaScript技術的到來ChromeJavaScript
- GCC 6 即將帶來的新特性GC
- OpenAI CEO Sam Altman:AI革命即將到來,我們需要新的系統OpenAI
- 俄羅斯公司提出為小米即將到來的IPO提供代幣化業務
- Nokia智慧手錶即將到來 進軍數字健康領域
- iOS13 即將到來,iOS 推送 DeviceToken 適配步驟詳解iOSdev
- 大AI時代即將到來?AI技術能解放多少技術力AI
- iOS 8安裝率已達72% 系統大更新即將到來iOS
- Android O官方版本即將到來, 先來看看DP4開發者預覽版Android
- 極客拯救世界:10項即將到來並可能改變世界的技術
- 全體注意!一大波鴻蒙三方庫即將到來!鴻蒙
- v2.2釋出,CNC Fanuc、QnA 1E驅動即將到來
- 十天六會,大佬頻出,CariNet大事件即將到來事件
- 微軟曝光Win10 RS1 14251版本:重大更新即將到來微軟Win10
- [譯] 做好準備:新的 V8 即將到來,Node.js 的效能正在改變。Node.js
- Linus Torvalds:Rust For Linux 或將被合併到 Linux 5.20 核心中RustLinux
- 以uClinux為核心 DS Linux即將釋出NDS專用瀏覽器(轉)Linux瀏覽器