史上最強AI處理器!Graphcore攜IPU強勢登陸中國市場

人工智能(AI)由概念到落地經歷了漫長的演變歷程。作為西方半導體產業界唯一的“獨角獸”企業,Graphcore成立僅僅三年,先後吸引到寶馬、三星、戴爾、博世、微軟等國際一線大品牌的投資。Graphcore是一家怎樣的公司?為何它如此受到青睞?

史上最强AI处理器!Graphcore携IPU强势登陆中国市场

在11月7日由ASPENCORE主辦的“全球CEO峰會”上,Graphcore聯合創始人兼CEO Nigel Toon跟《國際電子商情》分享了相關發展策略。

Graphcore是一家怎樣的公司?

很多人對Graphcore這家公司感到陌生,它是一家於2016年創辦的人工智能芯片設計初創公司,總部位於英國。其處理器芯片直接對標英特爾、英偉達之類的芯片製造巨頭,為智能駕駛、雲服務等應用提供更靈活、更易用、更高技術水準的產品支持。

人工智能因其設計的複雜性和高門檻的應用,一般都伴隨著資本的助力,Graphcore也不例外。2016年10月,Graphcore獲得第一筆金額為3200萬美元的A輪融資;2017年7月獲得由歐洲VC Atomico領投的價值3000萬美元的B系融資,同一年還獲得5000萬美元的C系列融資;2018年12月,再獲得Atomico和投資控股公司Sofina共同領投的2億美元的D輪融資。

截至目前,Graphcore共獲得3.25億美元的投資,公司市值達到17億美元。2019年10月21日,胡潤研究院發佈《2019胡潤全球獨角獸榜》,Graphcore排名第138位,是西方半導體產業界唯一的“獨角獸”企業。

史上最强AI处理器!Graphcore携IPU强势登陆中国市场

Graphcore所有的投資者,都對其旗艦智能處理器單元(IPU)的潛力很感興趣。Nigel Toon強調了紅杉資本對Graphcore的投資。他表示:“紅杉資本除了投資Graphcore,還投資了業界很多知名的廠商,紅杉投資人得知Graphcore做的事情非常有趣且極具創新性,所以找到我們談投資事宜。”

Graphcore聯合創始人兼CEO Nigel Toon

IPU處理器有何不同?

從CPU、GPU到FPGA再到ASIC,人工智能芯片技術針對不同的應用場景,都會對算力、算法等要求不斷升級。Graphcore的IPU處理器是完全不同於前面幾類處理器類型的全新架構的AI處理器產品。

史上最强AI处理器!Graphcore携IPU强势登陆中国市场

Graphcore的IPU處理器

Graphcore 的IPU特點可概括為:(1)同時支持 Training 和 Inference;(2)採用同構多核(many-core)架構,超過1000個獨立的處理器;(3)支持 all-to-all的核間通信,採用Bulk Synchronous Parallel的同步計算模型;(5)採用大量片上SRAM,不需要外部DRAM。

據介紹,IPU處理器是迄今為止最複雜的處理器芯片,它在一個16納米芯片上有幾乎240億個晶體管,每個芯片提供125 teraFLOPS運算能力。一個標準4U機箱中可以插入8張卡,卡間通過IPU-Link互連。8張卡上的IPU可以看做一個處理器工作,提供 1.6PetaFLOPS的運算能力。

史上最强AI处理器!Graphcore携IPU强势登陆中国市场

與CPU和GPU不同,IPU是專門為AI/Machine Learning設計的處理器。IPU強大的並行處理能力,實現了快速訓練模型和實時操控,這使得Graphcore能夠在自然語言處理以及理解自動駕駛方面取得重大進展,這是區別於其他處理器的一個重要因素。

“我們接觸過的所有創新者都說使用GPU正在阻礙他們創新。如果仔細看一下他們正在研究的模型類型,你會發現他們主要研究卷積神經網絡。因為遞歸神經網絡和其他類型的結構,並不能很好地映射到GPU,加上沒有足夠良好的硬件平臺,其研究領域受到限制。而這正是我們將IPU推向市場的原因。”Nigel Toon說。

Graphcore IPU為機器智能提供了更高效的處理平臺。“目前,應用端有越來越多的需求出現,但諸如CPU、GPU等很難有技術突破。而IPU的特色在於,速度非常快,可以支撐很多不同的神經系統,可以做出新的技術突破。”Nigel Toon強調說,有一點非常明確,IPU是一個處理器,基於這樣一個處理器和一些算法,Graphcore可以通過軟件來實現,保證了足夠的靈活性。

除了CPU和GPU,FPGA被認可是現階段較好的實現AI功能的處理器產品,特別是其並行計算能力,適用於雲端加速應用。

“大家常常對CPU解決不了的問題,試圖用FPGA來解決,其實FPGA用的大量場景不在AI領域,而是在網絡和存儲加速裡面。另外,針對AI應用,FPGA無法支持訓練,另外易用性差,只可以做一些inference場景。而IPU很明確,專為機器智能或AI應用場景設計,可同時做訓練和推理。” Graphcore銷售副總裁盧濤補充表示,“IPU是一個處理器,針對IPU我們開發了一套叫做 Poplar 的軟件,對程序員來說,在 IPU 上進行開發就是寫一個TensorFlow或者Pytorch 的程序,可能就幾十行代碼,易用性非常好。”

相比競品,IPU有哪些優勢?

在巨大市場前景的推動以及鉅額資本的加持之下,目前市場上出現了很多人工智能芯片公司,其中不乏獨角獸企業。

Nigel Toon表示:“我們的做法是完全不同的。如果你看一下目前市面上比較廣泛應用的訓練芯片,你就會發現,他們都是比較類似於GPU的圖形處理單元,他們做出來的芯片在創新的部分微乎其微。但是Graphcore很不一樣,我們有在更大層面上進行創新,而不是小的改進。IPU 同時有上千個處理器在工作,單個IPU的存儲帶寬能達到45TB,比性能最快的HBM提升了50倍以上,且在相同算力的基礎上能耗降了一半。”

據瞭解,藉助Graphcore的IPU,一個完整的機器學習模型可以在處理器內部生成。而且IPU處理器具有數百兆字節的RAM,可在處理器上以1.6 GHz的速率全速運行,另外其中的延遲已被線程隱藏。Nigel Toon解釋說,一個4U機箱中有16個IPU,它將使用戶擁有無可比擬的內存帶寬,其上運行了成千上萬的線程,而且同時運行,這是Graphcore得以加速機器智能工作的部分原因。

Nigel Toon表示,Graphcore的IPU相比友商競品,

有三個核心區別:

  • 一是處理器的“核”的架構不同,IPU 是 MIMD 的架構;
  • 二是Graphcore的knowledge model在處理器之內;
  • 三是IPU能解決大規模並行計算處理器核之間的通信效率,這是個非常難的事情。在這一點上,Graphcore有大量的創新,關於多核之間如何通信,如何讓軟件工程師和程序員處理起來比較簡單。

“我們有一個BSP的算法,是硬件和我們的軟件一起協同工作的,這樣對軟件公司來說,雖然處理器有1000多個核,7000多個線程,但是不需要太擔心通信問題,可以讓軟件工程師非常方便地使用,而且處理器核之間的通信效率非常高。”Nigel Toon強調說。

Nigel Toon強調IPU是一個專門針對AI通用且靈活的處理器。工程師可以通過編程以驚人的效率來做很多不同的事情。如果應用於雲計算環境,這項技術可以非常輕鬆地解決問題,它功能多樣,易於編程,可提供極為有效的結果,這絕對是一項致勝的技術。

綜上可見,Graphcore的IPU是截至目前市面上功能最為強大且最易用的AI處理器芯片。被譽為英國半導體之父同時也是Arm聯合創始人的Hermann Hauser先前曾經這樣評價過Graphcore:“這在計算機歷史上只發生過三次,第一次是70年代的CPU,第二次是90年代的GPU,而Graphcore就是第三次革命。他們的芯片是這個世界偉大新架構的一種。”

雲服務是重要的應用市場

任何強大的技術必須市場化才能夠體現其價值,Graphcore的IPU主要應用方向為雲計算服務器,未來也會用於自動駕駛汽車。

對於Graphcore的發展規劃及IPU產品的市場化策略,Nigel Toon做了一些闡述:“首先,公司由年初的170人增長到了現在的400人,人員上已經兩倍多了;其次,到現在為止,我們共融資了3.25億美金,還有2億多美金在銀行裡;再次,我們在跟很多大的重要客戶合作,這會支撐我們下一步的巨大增長。”

近幾年,中國市場成長為全球最大的半導體應用市場。如何看待中國市場的發展?Nigel Toon表示,中國在Graphcore的整個版圖裡面是具有策略性的重要市場,我們在中國的運營上會跟傳統的外資公司有些不一樣。首先,我們在中國不是隻有銷售和市場,而是會大力投資在技術能力的建設上,因為需要跟本地合作的不僅是客戶,還有大量研究者和創新者,如何讓IPU在本地應用得更好,中間會有很多定製化開發的工作,所以在本地會有非常重的工程技術方面的投入。”

在中國有兩類廠商會是Graphcore的合作伙伴:

一類是服務器廠商。用戶購買的產品更多是一臺AI計算機,所以服務器廠商會是Graphcore第一類的合作伙伴。而且這個合作進展會非常快,估計再有幾個月客戶就會上架IPU的服務器產品。

另一類是雲服務和雲計算廠商。在新的時代,IT產品最後提供給最終用戶的中間鏈條裡,很重要的就是雲服務和雲計算廠商,所以Graphcore會在全球(不限於中國和美國)跟一些雲服務器廠商合作。

11月13日,Graphcore就宣佈了與微軟的合作內容,並正式發佈Microsoft Azure上Graphcore智能處理單元(IPU)的預覽版。這是公有云領導供應商首次提供GrapchoreIPU,這些IPU從構建之初便旨在支持下一代機器學習。這一合作,證明了IPU硬件和Poplar軟件棧的成熟性。

之前,Graphcore與Dell建立了密切的合作關係。Dell是Graphcore的投資者,透過與他們合作,Graphcore順利地進入企業應用市場,並透過多種不同形式將其技術提供給客戶。


分享到:


相關文章: