國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

芯潮(ID:aichip001)文 | 心緣

今日,國產GPU陣營再添一員。

國內AI全算力系統平臺及解決方案提供商公司天數智芯,在杭州西湖國賓館推出基於卷積神經網絡(CNN)的高性能邊緣端AI推理加速芯片Iluvatar CoreX I,採用16nm製程工藝,單芯片算力達4.8TFLOPS,能效比超過1 TFLOPS/W,主打視頻識別類的設備端AI加速器解決方案市場。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

天數智芯成立於2015年,去年銷售額達3000萬元,今年預計將達到6000萬元,在南京、上海、硅谷、北京均設有研發中心。其團隊規模近400人,技術團隊來自AMD、NVIDIA等世界知名芯片公司及Oracle、Fujitsu等企業軟件翹楚,其完整的芯片設計團隊在芯片設計領域積累了近三十年經驗。

上個月,天數智芯剛剛完成B輪融資,金額達數億元人民幣,由大鉦資本、Princeville Capital領投,上海電氣香港有限公司、邦盛資本等跟投。

一、EPU:峰值算力能效比達競品10倍

天數智芯的GPGPU具有可編程、可擴展、可配置的特點,並支持原生的CUDA兼容確保透明遷移。

基於其自研GPGPU IP,天數智芯計劃推出面向雲端的7nm高端SoC,面向邊緣雲的7nm中端SoC,以及面向邊緣端的16nm低端SoC。

天數智芯的首款邊緣端AI推理芯片Iluvatar CoreX I(EPU,Elastic Processing Units)採用16nm製程工藝,基於32核並行數據流和圖計算的CNN優化架構,支持檢測、分類、識別等視覺智能算法,支持主流深度學習框架,能效比達到1 TFLOPS/W-0.2 TFLOPS/mm2,可支持實現超高能效比的邊緣計算加速。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

Iluvatar CoreX I支持FP16精度,單芯片算力達4.8TFLOPS,物體檢測可達1000fps,支持TensorFlow框架原生兼容、客戶開發環境無痛遷移,提供高性價比的消費級方案和高穩定性的工業級方案,面向行業用戶提供端到端解決方案,面向開發用戶提供軟硬結合開發環境。

Iluvatar CoreX I的峰值算力能效比可達到競品的10倍。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

與競品相比,其物體分類性能約提升2.1倍,能效比約提升8倍;物體識別性能約提升1.9倍,能效約提升7.2倍。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

天數智芯的邊緣AI推理加速器具有兩大CPU靈活性和算力可擴展兩大特性。CPU靈活性體現在可以配x86、Arm以及國產處理器;算力可擴展體現在支持單板卡多芯片和服務器多板卡,單芯片4x PCIe 4.0提供16GB/s超高帶寬雙向通信。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

另外,其64bits LPDDR4/4X的支持提供34.1GB/s、8GB的高帶寬、高容量本地存儲方案。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

Iluvatar CoreX I可適配各類邊緣及端側應用場景,適用於邊緣端、邊緣側、邊緣智能計算及分佈式、集中式視頻智能。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

目前,天數智芯基於EPU推出邊緣計算系統板和邊緣計算加速卡。前者適用於智能新零售、智能垃圾分類、智能監控等各類應用,後者適用於邊緣服務器、工控機擴展等形態。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片


▲基於EPU的智能垃圾分類系統

二、預告雲端訓練及推理芯片

下一步,天數智芯將發佈高端雲端訓練(兼推理)芯片和中端雲端推理(兼訓練)芯片。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

現場,天數智芯還總結了主流芯片市場存在四個痛點:

一是為追求性價比,犧牲一定精度和算力,精度往往集中在INT8、INT4,算力集中在1-2 TOPS;

二是環境要求高,聚焦在消費級產品;

三是生態遷移成本高,軟件轉換層提供生態兼容工具問題層出不窮;

四是開發門檻高,缺乏端到端解決方案。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

天數智芯在打造芯片解決方案時即著力於解決上述問題。

除了芯片之外,作為一家軟硬件基礎平臺公司,天數智芯在軟件層面同樣在雲、邊、端三個層面做了部署。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

過去三年,天數智芯在軌道交通行業摸爬滾打,作為鐵路樞紐,軌道交通需要對全部資源做有效管理統籌,對站段做好及時響應,確保對車載、路基、貨場能發出實時警報。

天數智芯認為,要將傳統IT系統大數據、物聯網與行業智能解決方案結合,追求通用、標準、高性能,擺脫對算法的依賴,軟件要針對行業特徵提供場景優化,硬件不僅要支持AI計算數據驅動,也要支持其他高性能計算的算力需求。

今年6月,天數智芯斬獲斯坦福大學發佈最新DAWNBench深度學習推理榜單圖像識別性能冠軍,二三四名分別是華為、寒武紀和阿里雲。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

三、龍頭芯片企業的優勢和創企的機會

在活動現場,天數智芯創始人、董事長李雲鵬同一眾嘉賓就如何深入將產品真正落地市場、中國AI芯片如何創新自身優勢等問題進行探討。

國產GPGPU增添新勢力!天數智芯首推邊緣AI推理芯片

此前,智東西曾專訪天數智芯創始人、董事長李雲鵬,深入瞭解天數智芯的定位和佈局、產品技術邏輯以及創業打法。(對話天數智芯CEO:GPGPU的國產化時代將至!)

天數智芯堅持軟硬協同理念,重點打造覆蓋“雲端-邊緣端-端端”全算力場景的“芯雲戰略”全算力解決方案,提供滿足多層次算力支持的產品。

天數智芯創始人、董事長李雲鵬一上臺,就解釋了為什麼這家南京公司會選擇在杭州西子湖畔舉辦發佈會。他說,1949年新中國成立,五年後毛主席在杭州西湖國賓館起草第一部五四憲法。而天數智芯自2015年成立來,經歷初創期的野蠻生長和碰壁,走完了第一個閉環,希望在此宣佈天數智芯來到新的起點,呼喚有機的成長期。

天數智芯英文名為ILUVATAR,取自創新(Innovation)、演進(Evolution)、價值(Value)、引領(Polestar)。

李雲鵬認為,直線加速垂直細分領域是我國AI芯片產業的發展方向,既要認清不足之處,也要找出優勢所在,目前AI芯片已逐漸向終端產品滲透。國內AI芯片行業發展尚處起步階段,只有深耕基礎技術,集合垂類技術的延展,才能貫穿AI產業鏈縱向的基礎架構、通用技術和行業應用,使AI芯片真正落地市場。

天數智芯的一個重要使命,是解決中國計算機產業缺“芯”少“魂”的沙漠化問題。

在李雲鵬看來,境外的龍頭芯片企業競爭優勢明顯,並滲透在企業文化中,“真正站在客戶的角度去從事運營及長遠考慮”。

他認為具體可分為兩點。

一是對產業鏈條的把控。鏈條存在於芯片企業的整個營銷模式中,其中生態是鏈條的一個標準化執行通路,但自我發展完善的產業生態鏈尚未建立,各IT巨頭在特定領域持續投入,彼此之間又相互協同、聯盟,最終形成輻射全球的信息產業體系。“這對我們產業生態的構建,是很有借鑑意義的。”李雲鵬說。

天數智芯從智能數據與AI算力需求出發,圍繞高端服務器系統,形成從芯片到一體機,從操作系統到數據庫、應用軟件和雲服務,從底至上、軟硬一體、擁抱雲計算的完備技術體系,互相支撐,開放兼容,試圖破解國產核心技術生態系統薄弱、上下游不銜接的難題。

二是對產業鏈終端的控制。天數智芯作為本土AI芯片企業,意識到貼近優勢能量帶給整個產業鏈的可控性,在不斷尋求差異化的有利於本土營銷模式開拓市場。

瞄準AI市場,天數智芯創業團隊結合自身優勢,聚焦高端、雲端計算芯片和計算基礎軟件,致力於解決AI時代最核心的計算力問題,同時側重場景和技術創新,包括利用技術深度挖掘用戶需求並轉化為商機,以及產品創新等業態模式的創新。

切入AI芯片領域的算法和系統公司逐漸增多,僅僅通過算法實現商業變現會有瓶頸,將各自AI核心算法芯片化有助於提升原有性能。但AI算法變化快、芯片研發週期長,按照當前算法需求定義芯片需求無異於賭博。

同時,天數智芯對場景真實需求有深刻了解,打造了軟硬件一體化產品和雲服務,並具備優秀的市場營銷渠道能力及充分的資本儲備。

李雲鵬表示,目前國內和天數智芯在同一賽道的,鳳毛麟角。

在自有軟硬件平臺基礎上,天數智芯面向高端製造、軌道交通、教育等行業,為客戶提供面向雲計算的智能數據平臺方案SkyACC、軟硬件一體機產品SkyAXE和應用服務SkyFront、SkyDatalab。這種發展模式使得天數智芯成為國內唯一、全球極少數的雲端AI計算軟硬件平臺系統創業企業。

結語:國產化GPU任重道遠

乘著深度學習的東風,GPU龍頭NVIDIA迅速抓住機會,成為AI和自動駕駛領域的AI芯片霸主。陸續有半導體巨頭和新興創企入局AI芯片,但GPU領域依然被NVIDIA牢牢掌控。

近年來,伴隨著芯片自主可控浪潮的到來,在國家政策助推下,我國國產CPU在行業應用上陸續取得了一系列進展,但國產GPU的民用之路一直走的坎坷而艱難。

無論是用於圖形處理的GPU,還是面向通用計算的通用GPU,都面臨著較高的技術和生態壁壘。要在NVIDIA和AMD的夾縫中尋找新的生存之道,國內GPU企業們仍然任重而道遠。


分享到:


相關文章: