4月21日官方發佈，PyTorch用戶可以使用TorchServe（PyTorch生態新的模型服務框架）來大規模部署經過訓練的模型，而無需編寫自定義代碼。
PyTorch是最初由Facebook創建的開源機器學習框架，由於其易用性在機器學習研究人員和數據科學家中廣受歡迎。
但是，在生產中部署和管理模型通常是機器學習過程中最困難的部分，需要客戶編寫預測API並對它們進行擴展，而谷歌的 Tensorflow 工業化程度更高。TorchServe 的發佈開始打破 Pytorch 的被動局面。
通過TorchServe，可以輕鬆地在生產環境中大規模部署PyTorch模型。它以低延遲提供輕量級服務，因此您可以部署模型以進行高性能推理。它為最常見的應用程序提供了默認處理程序，例如目標檢測和文本分類，因此您不必編寫自定義代碼即可部署模型。藉助強大的TorchServe功能，包括多模型服務，用於A / B測試的模型版本控制，用於監視的指標以及用於應用程序集成的RESTful端點，您可以將模型從研究階段快速投入生產。TorchServe支持任何機器學習環境，包括Amazon SageMaker，Kubernetes，Amazon EKS和Amazon EC2。
TorchServe由AWS與Facebook合作構建和維護，是PyTorch開源項目的一部分。相關的代碼已經開放可到GitHub進行下載。
分享到:
