中天微勞懋元:AIoT 顛覆傳統晶片行業,市場需要專用方案

「智能語音本身是一種交互方式的升級。這種交互方式出來之後,就產生了很多的新的技術難題。」

作為一家老牌 CPU IP 公司,中天微比大多數人更加早察覺 AIoT 對傳統芯片行業的巨大沖擊。2018 年 4 月,中天微被阿里巴巴全資收購,同年 6 月,中天微發佈了雲端一體的智能語音平臺「雲音」。在由深圳灣出品的 WARE 2018 AI 芯片與應用峰會上,中天微勞懋元從產業最上游,與我們分享了 AIoT 時代下芯片公司的進擊與思考。

中天微勞懋元表示,智能語音本身是一種交互方式的升級。這種交互方式出來之後,就產生了很多的新的技術難題,比如麥克風陣列、識別和喚醒背後的神經網絡技術、多樣化的應用場景以及雲端一體的服務。

「我們需要的是專用的解決方案。」勞懋元表示,從核端來看,以前大家都採用通用的芯片方案,只需要將算法移植到 AP 上即可;但面對品類多樣、場景複雜的 AIoT 市場,一顆芯片走天下已經不可能了。市場需要的是專用的解決方案,基於應用、算法來完成芯片架構設計,然後芯片架構在針對算法進行優化和增強,只有這樣設計出來的芯片方案才可能真正的解決問題。

同時,AIoT 時代下,算法的迭代速度在加快,產品的話語權在增大,單獨的芯片公司已經無法應對市場的變化,需要芯片公司、算法公司和互聯網公司的配合。上游企業提供芯片架構、算法公司提供參考設計,互聯網公司提供雲服務和產品的商業落地。

以下是中天微勞懋元在「WARE 2018 AI 芯片與應用峰會」的演講實錄,經深圳灣整理和發佈。

- 現場回放 -

中天微劳懋元:AIoT 颠覆传统芯片行业,市场需要专用方案

演講:從核思考 AI,芯片公司的 AIoT 戰略

嘉賓:勞懋元 / 中天微智能語音平臺負責人

從「核」思考,這既是一個問題,也是一個答案,從什麼地方思考?我們中天微的答案是從「核」。

什麼是核?做產品的上面是做方案,做方案的上面是芯片,芯片的上游是 IP 核,我們其實是做其中最重要的一個核,也就是 CPU 核。

中天微是一家老企業,2001 年就成立了,到現在為止已經十七年曆史。一直在做一件事情:做中國人自己的嵌入式 CPU 核。

中興事件發生之後,我們就說什麼是「中國芯」。如果這個「中國芯」裡面用的最重要的核還是來自於國外企業的技術,那這個「中國芯」的含金量到底有多少?我們一直在執著的做這件事情,希望有更多中國芯片企業內部真正使用到中國人自己的核芯。

中天微劳懋元:AIoT 颠覆传统芯片行业,市场需要专用方案

中天微在 2018 年 4 月的時候正式被阿里巴巴集團收購。目前為止,我們的 CPU 核已經在差不多 100 家企業中使用,累計出貨已經到 7 億顆了。

我們有幾個系列產品,有 S 系列的核、C 系列的核、K 系列的核和 Y 系列的核。一般做產品的時候,往往先把功能做出來,首先就是安全,中天微有十幾年安全的積累,如果你的產品要考慮安全,可以跟我們聯繫。Y 系列的平臺我們稱之為雲音平臺。

接下來講一下中天微的「雲音」平臺。智能語音算是 AI 運用比較早的,所以我們希望把核的技術和這一熱點結合起來,作為生態進一步的延展,最後給合作伙伴提供一個完整的雲端一體解決方案。

「雲音」平臺有幾個特點:低成本、低功耗、支持自由剪裁組合。現階段,我們做了自己的測試芯片,實測出來,整個運行功耗可以做到現在已知芯片的 1/10,如果使用我們這個平臺的技術做,芯片成本可以做到現階段的 1/2。

語音是一種新交互方式,它帶來了許多前所未有的技術難題

智能語音是什麼?智能語音需要解決什麼問題? 很多人說智能語音是 AI,我認為不是,不能因為裡面使用深度學習的技術就說是 AI,它本身是交互方式的一種升級。剛才在茹憶的 PPT 也講到,從 PC 時代的鍵盤到手機時代的觸摸屏,到現在的 AI 或者 AIoT 的時代,我們希望更自然的交互方式。

這個交互方式出來之後,有新的技術上的問題:

首先是麥克風陣列,這是很多產品沒有遇到的問題;

其次,識別和喚醒會用到非常流行的神經網絡技術,這些技術的出現對做核的人來說提出非常多的挑戰,傳統嵌入式的核對處理這樣的計算不是非常擅長的,這也是為什麼我們要從核最基本的地方去思考怎麼來應對這樣的挑戰;

第三,場景化的差異。語音這種事情看起來很簡單,但是評判標準來自每個人的感官,我覺得這個交互方式體驗很好,並不代表換一個人體驗也很好。我把這個設備放在自己家安靜的環境效果很好,但是扔到車上或者街上嘈雜環境中效果就差很多,這也是這個產品之所以難做的地方。

第四,雲端一體。現在特別是一些家電類的產品,目前只是端上控制的能力,但是放眼未來,真正的智能語音其實是為了連上雲,通過語音的交互能夠拿到想要的服務。歸根到底,我們是要做雲端一體的方案。

面對這些新問題,市場需要專用化的芯片方案

要解決這些問題,在技術路徑上要怎麼做呢?

中天微劳懋元:AIoT 颠覆传统芯片行业,市场需要专用方案

現在很多家做產品和方案的都是從圖片上下面的路來走。目前智能語音是熱點市場,並且主要面向消費類市場,(供技術研發)的時間非常非常短。所以,芯片廠商只能拿之前芯片的解決方案,通常是基於多核、AP 形態或者多媒體處理的形態,直接往上跑算法,只要算法能跑起來,效果能達到,就可以用。這一波促成了 2017 年國內百箱大戰的熱點。

但是接下來怎麼做?智能語音這個市場非常大,智能音箱不代表整個智能語音市場,只是整個冰山的一角。未來 IoT 是萬物互聯,意味著多種形態、多種品相的產品都需要升級。有沒有可能拿一顆芯片打所有市場?絕對不可能。現在智能音箱的芯片能夠用於可穿戴設備嗎?顯然不可能。

中天微一開始把發展路線定在走專用化的路線。正如周軍博士提到的,我們需要的是專用的解決方案。

專用的解決方案怎麼做?以智能語音為例,我們要以應用、以算法來驅動整個架構的定義。從本質上來講,一開始我們要把算法本身吃透,然後再去定義出架構,讓這個架構的所有優化、增強都是為了算法服務的,這樣做出來的東西才是真正的解決方案。也只有這樣的方案,才能更好地去面對即將爆發的萬物語音的時代。

從另外一個維度上考慮,這件事牽扯的公司非常多,需要芯片公司、算法公司、互聯網公司。往往的情況是,芯片公司缺算法,算法公司缺芯片,兩個解決了,就要看誰雲上的服務更滿足他的需求,同時商業模式又特別好。

雲音平臺:一站式的智能語音的解決方案

現在很多人都很焦急,我們沒有找到一個完完整整的方案。中天微被阿里巴巴收購之後,我們認為我們其實是代表著阿里巴巴能夠做這樣一件事情,全套從算法、芯片、互聯網、內容都可以做,希望帶給大家一站式的智能語音的解決方案。

中天微劳懋元:AIoT 颠覆传统芯片行业,市场需要专用方案

雲音平臺裡面包含的東西挺多,不是一個芯片或者一個軟件本身。我們有一個非常適合智能語音應用的 CPU 內核。其次,我們有一個非常輕量級的,同時能夠兼具功耗、性能的芯片設計參考架構。另外,我們還有一個算法——來自阿里達摩院的先進算法。同時,我們對操作系統支持非常完善——包括常用的實時操作系統、嵌入式版本的 OS。最後,上雲,我們是最早一家把阿里上雲全套打通的企業。

- 開發者對話芯片商 -

中天微劳懋元:AIoT 颠覆传统芯片行业,市场需要专用方案

勞懋元 / 中天微智能語音平臺負責人

廖澤立 / 酷博創新 技術總監

從核看,芯片架構的形態

廖澤立:今天我們都在聊 AI 芯片,大家可以看到傳統基於 CPU 架構的,也有混合型的 GPU 等等的,而且現在很多傳統的 DSP 廠商也在往 AI 芯片整合,包括國外的巨頭也在往 AI 語音的前端做所謂的方案。您覺得 AI 語音的應用中,從最上游來看,芯片架構應該是什麼樣的形態?

勞懋元:目前整個產業都還處在 AI 的早期,很多家都在構建自己的技術路線,以自己的方式,基於自己的積累構建 AI 解決方案。我們看到的方案非常多,五花八門的。現在也不能說誰家最後能勝出或者活下來,現階段不是互相撕殺的過程,更多是共同打造這個市場。

我們中天微是做嵌入式核的,我們只能基於已有的技術做嵌入式解決方案。我們現在很多使用的芯片裡面都有國外公司的方案,這更促使我們思考,既然是中國自己的核,我們不僅要優化指令,索性把硬件架構也做升級。

如果大家熟悉計算機體系結構,中天是做 RISC 架構的嵌入式核,但我們也參考 DSP,融入了很多並行計算的技術。CPU,DSP 這兩者在誕生初期是有非常清晰的界定,CPU 比較適合做事務性處理,DSP 是數字信號處理,更適合偏運算性的應用場景。

我們唸書的時候有一個很明顯的區分標準,看裡面有沒有硬件乘法器。一般 CPU 只有加減,沒有乘法式的。DSP 裡面先天就有硬件的乘法,所以它的計算效率非常高。從存儲架構來說,DSP 嚴格意義上說是用哈佛存儲結構,指令和數據是分開存放。而 RISC CPU 通常是馮諾依曼存儲價格,指令數據統一存放。現在時間過了至少幾十年了,到現在為止,再回頭看,這兩個東西的界限越來越模糊。

從我看到的情況,做核的人開始加 DSP 指令集,DSP 企業為了增加控制,也往我們架構裡面添一些他的技術,這兩個都往中間靠,未來有一個處理器,有很強的控制性能,同時又兼具很強的計算性能,我認為這才是未來人工智能時代真正需要的核。我們這裡不簡單的說到底是 CPU 好還是 DSP 好,我們主要看未來,只要能解決這個問題的核就是好的。

AI 芯片與算法的集成路線

廖澤立:我們剛才聊的基本上集中在語音交互的芯片上面,我們看到 Google、百度都有定義基於算法型的專用 AI 芯片。您認為作為內核廠商來說,您認為從內核這一端來看,未來 AI 這一塊是什麼樣的架構,中天微有沒有跟算法集成的路線?

勞懋元:算法迭代速度太快了,可能每半年都要迭代,促生我們做核的也要不停的迭代,所以我們基於算法做了升級。包括我們對於神經網絡裡面的全相連,在核裡面業績做了架構的調整和提升。可以預見,接下來還會有新的算法出來,這些新的算法可能需要新的計算。現在有兩個方法,一個是除了核本身的優化,另一個是在平臺裡面系統層面的加速。 未來,我們相信作為中天微本土的 CPU 核企業,只要企業提出新的算法需求,我們會不遺餘力,從算法層面和指令集層面給大家服務。

傳統芯片週期長,需要通過平臺壓縮產業鏈

廖澤立:從芯片的架構設計、內核設計,最後到芯片廠商能用,可能要經歷一年甚至更長時間,可能算法就迭代過去了,從內核來看,您認為怎樣的架構更適合終端的算法公司或者 AI 公司使用?

勞懋元:前幾天看到一個觀點:AIoT 時代,對傳統做芯片設計的公司有非常大的衝擊,這個衝擊來自傳統鏈條太長,我們作為上游企業,最缺的是來源於產品端的直接需求導入。 剛才我既講了我們的核,同時又講了我們的平臺。

我們為什麼研究平臺?這個平臺本來應該是芯片企業研究的。大家是一條繩上的,我們希望儘量把產業鏈壓短,做核的人要提前替芯片公司思考。

芯片公司的強項是對於芯片成本的把控非常到位,因此,當新的技術和應用出來,從芯片應用架構上面,做核的企業可以有能力幫助他們分擔。光有核,沒有人有辦法用起來,所以必須有芯片架構,所以我們也做芯片架構,希望把這個參考設計給到芯片設計企業,同時把他們非常專業的對於成本的把控和量產的把控能力融入其中,從我們這兩個環節上面把開發週期壓縮到最短。這是從我們這個角色上面能夠帶給產業的貢獻。

中天微是否站隊?這個問題交給馬雲回答

廖澤立:這是很好的趨勢,從阿里巴巴收購你們這個事情開始,包括國外 Google 去做芯片,整個芯片產業帶來比較大的變革。AI 芯片可以說是算法公司在驅動著芯片架構往前走。

目前,中天微已經被阿里收購了,在使用架構的時候會不會有站隊的問題?百度也有一些算法,使用到其他平臺上,中天微會不會有站隊的問題?

勞懋元:我更願意把這個問題留給馬總,我相信馬總很快會說阿里收購中天微之後的發展方式。我們認為阿里巴巴不會做破壞者,阿里巴巴這麼多年做了這麼多革命性的事情,實際上是為了給大家帶來更多便利,包括做產業生態的升級。未來我們的合作伙伴,我們只會團結的更緊密,真正打造出用戶需要的產品,所以大家還是共贏。


分享到:


相關文章: