PyTorch 1.5發佈:Python與C++可轉換,不再支持Python2

4月21日,Facebook 正式發佈了 PyTorch 1.5,這是自 2020 年 1 月發佈 Pytorch 1.4 之後,時隔三月迎來的另一次版本升級。


需要注意的是,PyTorch 1.5只支持Python 3,不再支持Python 2版本。


此次發佈PyTorch 1.5此版本主要包括對幾個新的API 的添加和改進,包括對c++前端API的支持(穩定版)和庫升級,比如Facebook與Amazon 合作開發的模型服務庫TorchServe。

TorchServe庫同時支持Python和TorchScript模型;它可以同時運行一個模型的多個版本,甚至可以在模型存檔中回滾到過去的版本。亞馬遜工程師在一篇博文中表示,超過80%的使用PyTorch的雲機器學習項目是在AWS上進行的。

PyTorch 1.5還包括Torch Elastic,可根據開發者的需求或出現的問題狀況來擴大或縮小云訓練資源。

AWS與Kubernetes的TorchElastic集成支持容器編排,並且具有較高的容錯能力。Kubernetes在AWS上集成TorchElastic,意味著Kubernetes用戶不需要通過手動管理模型訓練的服務來使用TorchElastic。

TorchElastic用於大型分佈式機器學習項目。PyTorch產品經理Joe Spisak表示,TorchElastic被用於Facebook的大規模NLP和計算機視覺項目,現在正將其構建到公有云環境中。

“TorchElastic能讓你在多個節點上改變訓練,同時不會出現訓練失敗的情況; 它會繼續運行,一旦這些節點重新聯機,它可以重新開始訓練並在這些節點出現時計算這些變量。”Spisak說。“我們把彈性容錯視為與亞馬遜再次合作的機會,同時我們也有來自微軟的一些合併請求。因此,我們希望三個主要的雲供應商能為本地用戶提供支持,以便在其雲上的Kubernetes中進行彈性容錯。”

Spisak表示,此次發佈的PyTorch 1.5還增加了一個新特性:PyTorch c++前端API的穩定版本現在可以將模型從Python API轉換為c++ API。“最重要的是,隨著PyTorch 1.5的發佈,在升級到C++後,我們現在與Python完全對等。”


因此,用戶基本上可以在Python中使用的所有軟件包、所有模塊、optim等,現在這些也都可在C ++中使用。

Spisak說:“基本上,PyTorch 1.5能讓每個人在Python和C ++之間進行基本轉換。”

PyTorch 1.5還引入了自定義C++類的實驗版本,PyTorch的C++實現對於強化學習模型的構建者尤為重要。

此外,PyTorch 1.5還升級了主要的torchvision、torchtext和torchaudio庫,以及與AWS共同構建的TorchElastic和TorchServe模型服務庫。

它還更新了torch_xla軟件包,可以將PyTorch與Google Cloud TPU或TPU Pod一起使用。

此前,Facebook在1月發佈了支持分佈式模型並行、Java程序、移動端等多項新功能的PyTorch 1.4。在2019年10月舉行的年度PyTorch開發者大會上,Facebook首次介紹了Google Cloud TPU支持和量化以及PyTorch Mobile。


原文鏈接:

https://venturebeat.com/2020/04/21/facebook-partners-with-aws-on-pytorch-1-5-upgrades-like-torchserve-for-model-serving/


Pytorch博客:

https://pytorch.org/blog/pytorch-1-dot-5-released-with-new-and-updated-apis/


PyTorch 1.5發佈:Python與C++可轉換,不再支持Python2


分享到:


相關文章: