04.18 仔細研究機器學習芯片製造商Mythic

在2016年機器學習芯片市場開始sc sc之前，但在2012年在密歇根大學成立之後，Mythic試圖構建嵌入式芯片，讓監控無人機運行仿效人腦的軟件。該公司的部分資金，即Isocline，來自國防部。

但是兩年前重新啟動後，Mythic重新關注了像自動駕駛汽車和安全攝像頭這樣的嵌入式設備。現在，該公司僅用幾個月的時間就完成了基於雄心勃勃的架構的採樣芯片，該架構採用閃存單元內的模擬計算來加速機器學習任務，如面部識別。

幫助超過終點的是上個月從新和現有投資者籌集的4000萬美元，包括軟銀投資，Draper Fisher Jurvetson和Lux Capital。其他為Mythic在2019年初投入量產的投資者還包括Sun Microsystems和Arista Networks的聯合創始人Lockheed Martin和Andy Bechtolsheim。

與主導培訓中使用的服務器芯片的Nvidia不同，Mythic專注於嵌入式推理。例如，訓練算法可以滾動瀏覽數百萬張照片，以教授機器學習模型來識別特定對象，如貓。推理過程涉及使用模型解釋前所未見的圖像。

Mythic聯合創始人兼首席技術官Dave Fick在德克薩斯州奧斯汀的公司總部接受採訪時說：“我們一直認為推論是一個比培訓更重要的問題。 “推理平臺的功能決定了你在現場部署算法的能力。您可以將服務器場的規模擴大一倍，但這並不影響現場發生的任何事情。“

Fick告訴Electronic Design，該處理器的效率將比Nvidia的Titan XP GPU高出近百倍。這種性能可以使安全攝像頭在不諮詢雲的情況下識別犯罪分子，提高隱私性並節省網絡帶寬。它還可以為自動駕駛汽車或工業控制帶來更低的延遲。

該公司位於加利福尼亞州雷德伍德市，它的第二座基地在閃存內部進行處理，比其他芯片更快，更高效地運行機器學習。內存中的處理可以消除傳統芯片將信息從外部存儲器中抽出的功耗。 “移動數據耗費能源，”菲克說。

內存瓶頸已經超過了微芯片製造商，因為蝕刻越來越小的晶體管的成本優勢已經受到削弱。儘管許多公司在存儲通用指令的昂貴緩存中擠滿了芯片，但其他公司卻將內存儘可能地移近處理器 - 這是IBM True North使用的一種策略。其他人正試圖計算DRAM的內部塊。

通過在擁有數百萬重量的相同閃存單元中運行推理算法，Mythic可以將運動降至最低程度，並融入機器學習模型。這些權重決定了照片中物體的特徵與用於描述它的詞語之間的關聯強度。

Fick說：“推論實際上比訓練簡單得多。它們基本上是矩陣乘法的長線，其中輸入乘以存儲在網絡中的權重。該產品被添加到另一個輸入的乘積再乘以另一個權重，以此類推以進行數千次操作，每個操作花費的功率很小。

該公司否認使用大規模多核架構來數字執行復雜算術的想法。這裡面臨的挑戰將是映射所有處理核心。 “我們認為英特爾和Nvidia能夠相對容易地創造出類似的東西，所以我們想要做一些不同的事情，”Fick說。

Mythic選擇了模擬計算。使用模擬電流代替數字信號可以節省通常由於晶體管電壓不斷切換而浪費的功率。相反，Mythic芯片中的所有存儲單元同時驅動，這不僅縮短了數據進入處理器的行程，而且還自動處理添加操作 - 無需使用任何電源。

Mythic將內存塊拼接成並行處理器。每個模塊使用數字電路將指令轉換為模擬電流。存儲器單元末端的模數轉換器吐出結果。數字電路可重新配置，並防止模擬電流在處理器的其他部分級聯。

這些獨立芯片基於富士通製造的40納米嵌入式閃存。Mythic正在遠離更先進的製造業，以保持低成本。上個月，該公司採用了處理器架構，現在它正在完成數字架構，這有助於加速不同神經網絡的數量。

隨著客戶開始使用新的8位處理器，Mythic是否會在明年取得成功。該公司在過去兩年籌集了5570萬美元的風險投資，並計劃擴大其35人團隊。菲克說：“在嵌入式領域，在你將芯片拿出來之後，你會開始看到收入，這將是一年。”

雖然Fick負責奧斯汀硬件開發，但Mythic首席執行官Mike Henry負責監督Redwood City的一個軟件團隊。與競爭對手一樣，該公司正在開發軟件工具，以幫助嵌入式工程師輕鬆編程Mythic定製芯片。 “我們正在使用TensorFlow並將其直接編譯到芯片上，”菲克說。

這種軟件工具可以在日益擁擠的市場中平衡競爭環境。 “直到有人出來了一個認真的情報處理單位，Nvidia坐得很漂亮，”Fick告訴Electronic Design。 “但是一旦有人推出了具有競爭力的產品，Nvidia的銷售將會大幅下降。在這個市場上，他們並不是很堅強。“

Dethroning Nvidia不是Mythic的目標。該公司計劃在進入一般人工智能領域之前開始提供可安裝在安全攝像機網絡中的芯片。Mythic可能面臨來自初創公司如Reduced Energy Microsystems和Horizon Robotics等面向嵌入式推理的挑戰。

其他公司投下更長的陰影。在收購Movidius之後，英特爾正在製造能夠處理機器學習算法的芯片，取代傳統計算機視覺，這正是Movidius最初的重點。高通公司正在採樣兩款基於ARM的新型處理器，這些處理器可用於跟蹤包裹或識別犯罪分子的安全攝像頭。

菲克說：“ARM絕對是我們最大的競爭對手。該公司已經開始涉足全球幾乎所有的智能手機，最近表示已經開發了一款用於相機和智能手機的物體檢測處理器和機器學習加速器。監督這對稱為Project Trillium的芯片是ARM IP產品部門總裁兼Mythic董事會成員Rene Haas。

Mythic還可能與Nvidia發生衝突，Nvidia已經設計了基於其Xavier自動駕駛汽車處理器的開源推理架構。上個月，Nvidia表示，新架構NVDLA將作為ARM機器學習產品的一部分提供，使其與Ceva，Cadence和Synopsys形成競爭。

半導體研究公司The Linley Group的分析師Mike Demler在上個月的一份通訊中說：“該公司在創建開源項目中的策略是促進更廣泛地採用神經網絡推理引擎。 “預計它將因其對昂貴的基於GPU的培訓平臺的更大需求而受益。”

菲克說，Mythic計劃發佈一張價值30,000美元的圖形芯片的計算能力相同的服務器卡。它想要避開嵌入式市場的步伐。在實際產品中使用Mythic芯片之前，嵌入式開發人員將通過無情的資格認證。 “他們非常反感，”菲克說。

該公司的基於PCIe的卡可以定價更高，讓Mythic更快賺錢。但從Graphcore和Wave Computing等初創公司可能面臨比嵌入式市場更激烈的競爭。另外，像谷歌和微軟這樣的雲計算巨頭也紛紛加入定製芯片進行推理。

在菲克的腦海裡，Mythic的模擬電腦佔據了上風。 “由於專業化，您可以構建一個比GPU更高效10倍的系統，但使用模擬計算我們會再進行10次。”他說。 “與世界的Groqs和Graphcores相比，我們的效率提高了10倍。”

但隨著越來越多的公司進入機器學習市場，Mythic的誤差容限縮小了。 “如果你從歷史角度看半導體行業，每個市場通常有兩個玩家，”菲克說。假設是推理和培訓市場將分別有兩個贏家。

他說，Mythic是專注於成為其中的一員。