DSW:面向AI研發的整合開發平臺
雲原生技術,注重使用者體驗,提升研發效率
環境搭建是演算法研發過程中的重要一環,這裡除了硬體選型外,軟體環境的安裝配置,後續升級往往會耗費不少時間。DSW藉助阿里雲ECS,Docker和Kubernetes等雲原生技術,能夠在2,3分鐘內幫使用者完成環境搭建。使用者可以根據演算法需要和成本考慮, 選擇阿里雲ECS提供的包括CPU和異構計算GPU在內的所有資源規格。不僅支援預付費,還支援後付費。 DSW還配置了10多種適用於不同AI場景的典型軟體環境配置, 包括Tensorflow和PyTorch等主流訓練框架的不同版本組合,供使用者選擇。作為高度開放的開發環境,DSW開放sudo許可權給使用者、支援任意第三方庫安裝。
為了滿足不同水平層次和開發習慣的演算法使用者,結合視覺化,互動式程式設計和命令列輸入,DSW提供了3種程式設計入口:WebIde適用於工程化要求比較高的專案;JupyterLab適用於快速POC試驗;Terminal入口可用於快速執行Shell命令,執行程式和簡單的編輯等。
DSW還開發和預裝了各種JupyterLab和WebIDE外掛, 比如廣受深度學習開發者喜愛的視覺化工具Tensorboard,使用者在DSW內透過Launcher,Commands開啟,甚至還可以使用%tensorboard魔法命令直接在Notebook中開啟等多種方式使用Tensorboard。不僅支援本地檔案,還可以開啟存放在OSS,ODPS裡的訓練日誌。針對演算法同學使用Python比較多的特點, DSW的WebIDE內安裝了Python外掛, 可以直接在瀏覽器內線上除錯,單步跟蹤程式執行。使用者還可以根據需要,自主安裝需要的任意外掛。
DSW支援多種資料來源讀寫,包括NAS, OSS,雲盤和MaxCompute,尤其是內建了dswmagic魔法命令可以讓使用者在ipynb檔案中使用SQL語句讀寫MaxCompute表中資料,預置的SQL編輯器支援語法高亮、智慧提示、自動補全等功能,還支援執行帶變數替換功能的Sql指令碼。查詢結果自動以最友好的圖形化展示。
為了節省資源成本,使用者可以利用停機不收費功能,在例項閒置不用時關機儲存環境, 需要時再一鍵快速恢復。此外, DSW支援使用者自定義映象安裝,可以基於之前儲存或定製的環境建立例項。
DSW在公有云上支援了多次百隊以上規模的天池大賽,在阿里集團內同樣也承接著比賽,經過千錘百煉,證明不僅適合個人和團隊研發,也支援大規模演算法競賽和教育培訓。
安全性和穩定性是使用者比較關心的問題,DSW使用的計算,儲存和網路資源,完全是使用使用者自己的賬號購買,並部署到使用者自己的vpc內部, 可以方便與使用者其他資料打通。使用者間完全隔離,還具備非常好的安全性。基於阿里雲ECS和容器服務, 穩定性有保障。
整合PAI的各能力元件,加速業務落地
身為PAI這個大家庭的一員, DSW除了完成單機開發訓練功能之外, 還內建部分PAI的基礎能力。比如使用者可以直接在例項內利用PAI視覺類演算法包EasyVision進行影像分類訓練評估、預測; 透過自動調參AutoML進行演算法超引數自動調優;使用者甚至能夠無感知的享受PAI編譯最佳化演算法元件TAO提供的訓練過程中的運算元最佳化。最後, DSW還提供了供演算法直接讀取MaxCompute表資料的CommonIO元件,支援TableRecordDataSet, TableReader,TableWriter等標準介面,方便訓練程式直接提交到PAI的分散式訓練叢集。
可以預見,在不久的將來, 會有更多的PAI演算法包內建進DSW基礎映象內。 DSW也會依賴PAI SDK,圍繞資料讀取,加工,模型訓練, 模型管理以及線上服務等AI研發生產流程的關鍵環節,為使用者提供像Pipeline搭建,排程和管理之類的一條龍服務。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31550522/viewspace-2692688/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- AI開發平臺系列2:整合式機器學習平臺對比分析AI機器學習
- 平臺產品研發思考
- 物流app開發如何做平臺整合?APP
- 微信公眾平臺開發(十一) 功能整合
- 做好開源快速開發平臺研發創新 助力行業高效發展!行業
- 綠茵面家平臺開發(開發平臺)
- 前後端分離開發模式的 mock 平臺預研後端模式Mock
- AI助力新藥研發 騰訊釋出「雲深智藥」平臺AI
- 微軟將開放《我的世界》AI開發平臺原始碼微軟AI原始碼
- 運維管理平臺OEM定製整合開發,激發IT價值運維
- 智慧警務系統研發,大資料警務平臺開發大資料
- 力軟快速開發平臺:方便快捷的Web開發平臺Web
- 微軟真會玩:已經開始研發AR平臺微軟
- AI+翻譯 AI智慧體平臺釦子coze開發搭建AI智慧體
- 解鎖普惠AI開發,華為雲ModelArts一站式AI開發平臺AI
- 如何開發直播平臺,直播平臺開發需要CDN嗎
- Web快速開發平臺,基於二次開發平臺Web
- API開發平臺,全面快速整合釋出API服務API
- 阿里雲移動研發平臺EMAS是什麼?移動研發平臺EMAS有什麼特色?阿里
- 研發協同平臺架構演進架構
- 平臺工程助力企業提升研發效能
- 數控開發平臺
- 國內開發平臺
- 構建跨廣域網Base CC/CQ整合開發平臺
- HiAI Foundation開發平臺,加速端側AI應用的智慧革命AI
- 跨平臺開發框架的大旗框架
- .NET平臺常用的開發元件元件
- 平臺工程如何助力企業提升研發效能?
- 電子電氣研發平臺解決方案
- 面向Java開發人員的Flex開發指南JavaFlex
- ai開放平臺AI
- JetBrains Rider for mac(跨平臺.NET IDE整合開發)AIIDEMac
- 跨平臺.NET IDE整合開發:JetBrains Rider for macIDEAIMac
- 跨平臺的C/C++整合開發環境 CLion 2022C++開發環境
- 統一整合資料平臺架構下的微應用開發架構
- 史玉柱:巨人在探索用AI研發遊戲的平臺,讓普通人也能做遊戲AI遊戲
- node.js開發平臺Node.js
- 高通Android平臺開發Android