近年來，人工智能在安防、物流、無人駕駛、醫療、教育等領域逐步深入落地，多樣化的場景需求進一步推動算力需求的提升，同時也帶動了AI芯片需求的快速增長。Gartner曾預測，全球人工智能芯片的銷售額將在2023年達到343億美元，而2018年這一數字為42.7億美元，年增長率可達52%。
近日，36氪接觸到了一家來自硅谷的AI芯片研發設計公司——「龍加智（Dinoplus ai）」。該公司關注當下市場的同時對AI芯片提出的更高要求：更快處理速度、更低功耗、更低延遲，以獨特的芯片架構、高效率靈活的軟件架構為核心，開發了包括FPGA（現場可編程門陣列）和ASIC（特定應用集成電路）產品以及相關的SDK（軟件開發工具包）等軟件產品在內實時AI計算平臺。
該平臺可廣泛應用於私有云、5G、邊緣雲計算、工業自動化、無人商店等領域，能在提供與同類產品一致性能表現下，實現更低功耗、確定的更低延時。
龍加智CEO胡遇傑告訴36氪，目前市場上的AI芯片還存在以下痛點：
一是絕大部分的AI芯片解決方案沒有針對延遲優化，難以滿足低時延和低“時延抖動”（單次請求的時延波動值）場景的需求。比如在自動駕駛中，計算延時必須控制在毫秒級別，否則可能造成車毀人亡；而且延遲的確定性對整個系統穩定性至關重要。 在語音控制場景中，長時延造成的卡頓也會影響用戶體驗。
二是大部分AI芯片談到低時延的時候僅僅針對圖像和視頻處理。 其實低時延對語音識別，搜索引擎，和自然語言處理等都有很大價值。
三是AI處理器使用門檻高，不易使用，難以將其性能發揮到最好；另外，AI算法進化速度很快，很多AI計算平臺難以適應未來算法。
針對這些問題，龍加智都有相應的方案推出。龍加智在關注提升計算性能、降低功耗的同時，重視延時的縮短。“不僅僅是降低了延時，而且固定的、穩定的低延時，即計算平臺在多次執行同一個任務時，反應時長是一個固定的數。”胡遇傑說，“市面上，許多AI處理器，每次執行同一任務時，反應時間都不一樣，而用戶在使用我們的計算平臺時，是可以預計確切反應速度的，就可以增加整個系統的確定性和可靠性。”
龍加智的AI芯片的延遲對大部分的AI任務都做到了低延遲，包括圖形圖像，語音，搜索，自然語言處理等。
不僅僅延遲，在計算性能上也有優勢。 根據測算，在具體的應用中，龍加智ASIC產品用於語音AI識別，處理能力約為Nvidia Tesla V100的13倍，功耗僅僅是前者的1/6；在圖像AI識別中，龍加智能達到Nvidia Tesla V100相同的處理能力，而響應時間在0.12ms以下，是V100的1%左右。除了在語音和圖像識別，龍加智聯合運營商，能將5G邊緣雲計算的響應速度降低至0.12ms，將整個5G邊緣雲到終端的通訊計算速度的延時控制在10ms內。
之所以能做到這樣的性能，主要得益於龍加智獨特的芯片架構。據介紹，該芯片採用了分佈式存儲架構、雙片上網絡結構、偽長指令集的處理器、控制迴路和數據迴路分割等技術、架構。這使得龍加智的AI芯片組可以特別高效率的利用計算單元，並能以很低且固定的延遲進行計算。“尤其在批處理數為1時（batchsize=1），芯片的浮點計算資源的典型利用效率接近77%。”胡遇傑說，“更高利用率意味著我們的芯片可以更小面積、更低成本。而且龍價值的芯片組不需要外存就可以工作，這樣也可以節省一大塊系統成本和功耗。”
在AI計算平臺“好用”方面，龍加智在芯片組的基礎之上開發了專有編譯器和SDK，在兼容市面上的主流計算框架的同時，也支持用戶自行開發芯片應用。此外，胡遇傑還透露，公司正在針對智慧城市等垂直應用場景開發應用模版，用戶只需進行簡單的功能需求勾選就能配置相應芯片應用，希望以此進一步降低AI計算平臺的應用門檻。
商業模式上，龍加智主要通過IP授權和產品銷售獲得收益。目前， 龍加智針對圖像和語音識別的FPGA產品已經形成銷售，通用可編程的ASIC產品也已成型。 IP授權也已被電信運營商、汽車製造商等大公司採用。
龍加智認為，AI計算平臺的打造必須能適應不斷進化的AI算法，這就要做到強大性能和靈活性的統一。因而，龍加智AI計算平臺下一步將繼續融合專用ASIC的高性能和FPGA的靈活性。“決定計算平臺或是芯片性能的關鍵除了計算單元之外，還有計算單元之間互聯。”胡遇傑說，“龍加智的方案是將FPGA嵌入ASIC之中鏈接計算單元，利用FPGA的靈活性實現不同應用使用不同的連接，從而使高性能ASIC也能靈活適應算法的演進。”
團隊方面，龍加智的核心團隊在技術和商業兩方面都有豐富的經驗。公司創始人兼CEO胡遇傑曾先後在愛立信、博通、Cadence工作，有15年的低延時ASIC和DSP研發經驗。公司董事並執行主席Sam Heidari，曾任Quantenna Communications公司董事會主席兼首席執行官（2019年OnSemi 以11億美元收購 Quantenna）並在多傢俬有和上市公司擔任技術高管，是全球半導體聯盟董事會成員。業務開發高級副總裁Patrick Ang是半導體行業成功的連續創業者和經驗豐富的上市公司高管，曾在多家上市公司擔任高級管理職務，包括OPTi的EVP，Creative Technology的副總裁和ESS Technology的首席運營官，擁有超過30年的半導體行業經驗。
據悉，龍加智曾於2017年完成天使輪融資，2020年初獲得pre-A融資，目前A輪融資仍在進行中。
相關閱讀：
龍加智科技與SiFive達成合作，共同開發人工智能處理器平臺
閱讀更多 36氪 的文章
