芯潮（ID：aichip001）編 | 韋世瑋
芯潮11月15日消息，美國當地時間11月14日，AI芯片創企Groq宣佈，其研發了世界上第一個能在單個芯片上每秒執行1000萬億次操作（1000 TOPS）的芯片架構，專門針對計算機視覺、機器學習和其他AI相關工作負載的性能需求而設計。
這是該公司自今年10月展示其最新研發的張量流處理器TSP（Tensor Streaming Processor）架構以來，再次釋放出有關AI芯片研發的重磅信息。
據悉，Groq將於美國時間11月17日至21日，在丹佛舉行的超級計算大會上向合作伙伴和客戶展示這款新架構。
目前，TSP正在進行客戶測試。
01、每秒1000萬億次計算、250萬億次浮點運算
Groq表示，這款新型TSP在單芯片上能實現高達1000 TOPS的性能，將近是華為昇騰910的2倍，而昇騰910為512 TOPS。
另一方面，TSP的浮點運算能力為250 TFLOPS，雖不及谷歌TPU v3和華為昇騰910，但卻剛好是英偉達Tesla V100 GPU的兩倍。
實際上，Groq的TSP架構受軟件優先的啟發，能夠實現實現計算靈活性和大規模並行性，且不需要傳統GPU和CPU架構的同步開銷。這無疑為業界提供了一個創新範例。
此外，TSP能同時支持傳統的機器學習模型和新的機器學習模型。目前也正在x86和非x86系統的客戶站點上運行。
同時，由於TSP專為計算機視覺和AI等相關領域應用而設計，並釋放了更多以往專用於動態指令執行的硅空間。
另外，該架構還提供了嚴格控制的能力，可進一步滿足那些對安全性和準確性有著高要求的應用程序。
與基於CPU、GPU和FPGA的複雜傳統架構相比，TSP還簡化了架構的認證部署，使客戶能夠簡單而快速地實現可擴展的、高每瓦性能的系統。
02、第一週啟動硅芯片，A0硅芯片開始生產
“我們為這個行業和我們的客戶感到興奮。”Groq的聯合創始人兼CEO Jonathan Ross表示，那些頂尖的GPU公司一直在告訴客戶，他們希望能夠在未來幾年內交付一種擁有PetaOp/s性能的產品，而Groq率先宣佈了它，同時還以此設定了新的性能標準。
在Jonathan Ross看來，就低延遲和每秒推理性能而言，TSP比任何其他架構的推理速度都快許多倍。
“我們與客戶的互動測試證實了這一點。”他說，公司在第一週啟動了第一個硅芯片，緊接著在第一天就啟動了程序，隨後在不到六週的時間裡向合作伙伴和客戶取樣，A0硅芯片開始生產。
與此同時，Groq首席架構師Dennis Abts表示，Groq的解決方案對大多數應用程序的深度學習推理而言，是非常理想的。
他還補充到，除了這個巨大的機會之外，Groq的解決方案還針對廣泛的工作負載。“TSP的性能，加上它的簡單性，將使它成為任何高性能、數據或計算密集型工作負載的理想平臺。”Dennis Abts說。
03、挖走谷歌8名核心人員，已籌集6700萬美元融資
實際上，成立於2017年的Groq，總部位於美國加州山景城，其創始團隊中有8名都出身於谷歌的TPU核心團隊。
2017年11月，Groq宣佈其將在2018年發佈其第一代AI芯片，並表示這款芯片的運算速度將達到400 TOPS，每瓦特進行8萬億次運算，算力比谷歌最新一代TPU還高出兩倍。
然而，宣佈這一遠大目標後的Groq卻始終低調行事，再未對外界釋放出任何消息。直到今年9月，它才開始陸續放出其募集6000萬元資金，以及張量流創新架構白皮書的新動態。
如此受業界密切關注的Groq，芯潮在近日也曾對這家公司的團隊與核心技術進行過拆解。（《撬走谷歌TPU核心團隊的4/5，任性缺席美國AI硬件峰會，這家AI芯片創企在醞釀什麼大招？》）
Groq表示，其將針對計算密集型應用程序的高效軟件驅動解決方案，為業界提供具有領先的性能、準確性和亞毫秒級延遲的產品。
此外，Groq還希望能通過對關鍵技術的創新研發，以重新定義計算。
截至目前，Groq已籌集了6700萬美元的融資資金。
結語：為AI芯片架構創新提供新思路
不難看出，自創立之初就一直受到行業密切關注的Groq從不走尋常路，特別是在技術研發方面亦有著極其大的願景和野心。
雖然，Groq的創新架構從推出到落地，其是否能真正地實現商業價值，還需要時間和市場來為我們驗證。
但不可否認的是，在業界不斷地想要通過優化創新制程工藝和縮小晶體管密度，以持續提高芯片的算力和深度學習推理能力的大趨勢下，Groq對AI芯片架構創新研發的挑戰，也為業界提供了新的思路和發展方向。
閱讀更多 芯潮 的文章
