集微網消息，11月21日，在蘇州舉行的英偉達GPU技術大會(GTC China 2018)上，英偉達CEO黃仁勳介紹了兩個多月前推出的全新NVIDIA T4 CLOUD GPU加速超大規模集群。
黃仁勳表示，T4 GPU只是一個開始。基於 Turing Tensor Core GPU的T4是全新的適用於超大規模集群的GPU，支持多精度計算。
與P4不同，T4在訓練和推理方面都很出色，FP32，FP16TC，INT8TC，INT4TC可以混合匹配，以實現最高的性能和精度，理論性能從65 TFLOPS到230 TOPS。而且T4還擁有著70W的適用於超大規模集群的理想功耗。
黃仁勳還介紹了一款新的開源軟件——TRT，支持單個GPU上運行多種模型。其推理服務器是容器化的，可以再Kubernetes上運行。TRT5這推理優化工具，支持Tensor Core和豐富的模型類型，例如CNN、RNN、MLP和許多其他模型。
黃仁勳表示目前T4已經達到了英偉達所有服務器GPU的最快採用率，超過50款服務器設計正在進行中，且每一個重要的OEM都正將T4服務器推向市場。
另外他還宣佈H3C、華為、浪潮及其商用機器、聯想、QCT和曙光都正在製造T4服務器，而百度雲，科大訊飛，京東雲和騰訊雲將在雲端提供T4。（校對/Aki）
分享到:
閱讀更多 半導體投資聯盟 的文章
