谷歌釋出 TensorFlow Serving：機器學習模型應用於產品更方便

谷歌今天釋出了TensorFlow Serving，這是個旨在幫助開發者將機器學習模型加入產品中的開源專案。很明顯，TensorFlow Serving必然是為谷歌自家的TensorFlow機器學習庫最佳化，不過谷歌也表示它可擴充套件到支援其它模型和資料。

如TensorFlow這樣的專案更易於構建機器學習演算法，併為某些特定型別的資料輸入做適應學習，而TensorFlow Serving則專注於讓這些模型能夠加入到產品環境中。開發者使用TensorFlow構建模型，然後使用TensorFlow Serving的API從客戶端對輸入做回應。谷歌同時還表示，TensorFlow Serving能夠利用GPU資源加速處理過程。

如谷歌所說，有了這樣的系統並不僅僅意味著開發者能夠將其構建的模型更快的應用到產品中，而且還能夠實驗不同的演算法和模型，並且仍保持穩定的結構。開發者還能夠基於新的資料改善模型或者其輸出，而架構的其它部分仍保持穩定。

谷歌表示，TensorFlow Serving採用C++編寫，為效能做有最佳化，在16核至強裝置上，每核每秒能夠處理超過10萬個請求。當前TensorFlow Serving的code以及教程已經能夠在GitHub獲取到。