谷歌釋出 TensorFlow Serving:機器學習模型應用於產品更方便
谷歌今天釋出了TensorFlow Serving,這是個旨在幫助開發者將機器學習模型加入產品中的開源專案。很明顯,TensorFlow Serving必然是為谷歌自家的TensorFlow機器學習庫優化,不過谷歌也表示它可擴充套件到支援其它模型和資料。
如TensorFlow這樣的專案更易於構建機器學習演算法,併為某些特定型別的資料輸入做適應學習,而TensorFlow Serving則專注於讓這些模型能夠加入到產品環境中。開發者使用TensorFlow構建模型,然後使用TensorFlow Serving的API從客戶端對輸入做回應。谷歌同時還表示,TensorFlow Serving能夠利用GPU資源加速處理過程。
如谷歌所說,有了這樣的系統並不僅僅意味著開發者能夠將其構建的模型更快的應用到產品中,而且還能夠實驗不同的演算法和模型,並且仍保持穩定的結構。開發者還能夠基於新的資料改善模型或者其輸出,而架構的其它部分仍保持穩定。
谷歌表示,TensorFlow Serving採用C++編寫,為效能做有優化,在16核至強裝置上,每核每秒能夠處理超過10萬個請求。當前TensorFlow Serving的code以及教程已經能夠在GitHub獲取到。
相關文章
- TensorFlow Serving: 高效能機器學習模型部署利器機器學習模型
- 使用 TensorFlow Serving 和 Docker 快速部署機器學習服務Docker機器學習
- 基於TensorFlow Serving的深度學習線上預估深度學習
- TensorFlow Serving
- 谷歌機器學習實戰的7個步驟:用於結構化資料的TensorFlow示例谷歌機器學習
- tensorflow機器學習模型的跨平臺上線機器學習模型
- TensorFlow釋出面向JavaScript開發者的機器學習框架TensorFlow.jsJavaScript機器學習框架JS
- 【機器學習No.1】Tensorflow智慧之別衣帽種類模型機器學習模型
- 基於口罩識別模型,探索機器學習自動化的技術應用模型機器學習
- 基於Python和TensorFlow實現BERT模型應用Python模型
- 關於機器學習的三個思考丨產品雜談系列機器學習
- InterPSS :基於 TensorFlow 的電力系統分析機器學習機器學習
- InterPSS :基於TensorFlow的電力系統分析機器學習機器學習
- 機器學習模型機器學習模型
- Workshop:產品經理小姐姐手把手教你訓練機器學習模型機器學習模型
- 收藏 | Google 釋出關於機器學習工程的最佳實踐Go機器學習
- 擴散模型在機器學習中的應用及其挑戰模型機器學習
- AWS釋出五大用於工業領域的機器學習服務機器學習
- 定位產業AIGC化加速器 “雲闕AI”大模型垂直應用正式釋出產業AIGC大模型
- TensorFlow.NET機器學習入門【8】採用GPU進行學習機器學習GPU
- Scikit-Learn 與 TensorFlow 機器學習實用指南學習筆記2 — 機器學習的主要挑戰機器學習筆記
- 談談機器學習模型的可解釋性機器學習模型
- 產品化機器學習的一些思考機器學習
- 前端如何學習機器學習之TensorFlow.js前端機器學習JS
- 遊族釋出2023年報 創新AI應用全面提升產品品質AI
- 【Numpy應用】--對於圖片處理的機器學習庫的應用機器學習
- 機器學習應用行業浮躁、產品差?身為工程師的你是否想轉行機器學習行業工程師
- TensorFlow Hub:探索機器學習元件化機器學習元件化
- 亞馬遜AWS釋出新服務Macie,讓機器學習開始產品化亞馬遜Mac機器學習
- 智慧語音機器人,溝通更方便機器人
- 【機器學習】--LDA初始和應用機器學習LDA
- 用一個小例子教你入門機器學習框架TensorFlow機器學習框架
- 【機器學習】乾貨丨機器學習知識點;機器學習模型的“可解釋性”到底有多重要?機器學習模型
- 產品經理的私房菜 - 騰訊產品模型 - 學習能力篇模型
- Scikit-Learn 與 TensorFlow 機器學習實用指南學習筆記1 — 機器學習基礎知識簡介機器學習筆記
- 機器學習為什麼難以產品化? - kdnuggests機器學習
- 【機器學習】什麼樣的機器學習產品是最符合使用者需求的;機器學習模型的衡量不止準確率:還有精度和召回率機器學習模型
- 論文分享:用於模型解釋的對抗不忠學習模型
- 深度學習之tensorflow2實戰:多輸出模型深度學習模型