雲端的不可控性以及不易用性已經成為目前移動電子設備拓展人工智能服務的掣肘。針對便攜式、小型化的電子設備，實現邊緣計算的人工智能芯片市場越來越大，比如有服務型機器人中集成的GPU、手機SoC中集成的NPU、有像大疆無人機、谷歌Clips相機中使用的Movidius Myriad 2 VPU等，針對這類的電子設備應用，如何做到功耗與性能的平衡是考教這顆人工智能芯片的重要因素。
而在這方面，Intel推出的Movidius Myriad 2 2450 VPU做得很好，在剛過去的2018蘇州智博會上，筆者親眼見識到了眾多基於這款VPU設計的針對邊緣計算的人工智能產品，而在這其中，研揚科技推出的UP AI Core脫穎而出，最讓筆者欣喜，這是全球首款超小型嵌入式人工智能處理卡，另闢新徑，基於mini PCI-E接口，價格大概在69美金左右。
UP AI Core
可以第一時間體驗UP AI Core無疑是非常興奮的，整個包裝延續了研揚科技關於UP Board系列打造的風格，簡潔但科技感十足。
研揚科技此次推出的UP AI Core基本上是為了自家的UP Squared Board服務的，內部還配套了一顆螺絲用於將AI Core牢固固定在UP Squard板子上。
AI Core的尺寸十分小巧，只有51 x 30 mm，大概要比英特爾Movidius NCS神經計算棒小上1/3。
從正面看AI Core帶有一個散熱片，之前在使用Movidius NCS的時候就發現Myraid 2這顆VPU發熱量很大，雖然沒拆過NCS，但是從鋁製的散熱外殼也能推斷還是需要做散熱處理的，因此在AI Core上這麼設計算是水到渠成。
從AI Core背面可以看到標註著筆者拿到的這款是Engineering Sample，看來是工程樣片，正式量產發售的時間待定，但是能第一時間拿到體現還是非常高興的。
AI Core基本的參數以及使用環境如下：
雖然官方只聲稱適配運行Ubuntu 16.04系統的x86_64平臺，但是既然Movidius NCS支持樹莓派，那麼可想而知，AI Core應該可以支持帶mini PCI-E接口的ARM架構平臺，但是想要實現應該要費一番功夫。
AI Core的良心設計
忍不住好奇將AI Core的散熱片卸下，原本只想看看什麼硬件方案，卻有意外之喜。
意外的驚喜是什麼呢？就是下圖中的Fresco FL1100 PCI-E轉USB3.0控制器。
使用過Movidius NCS神經計算棒的同學應該清楚，NCS做推理是要將文件傳輸到NCS神經計算棒中處理的，而目前英特爾提供的SDK只支持USB2.0的速率傳輸，所以你現在使用那根USB3.0接口的神經計算棒，無論在USB2.0的主機（如樹莓派）上還是USB3.0的主機（如UP Squared Board）上，速度其實還是沒什麼差別。
那麼既然如此，而mini PCI-E本身支持USB2.0，完全可以通過Myriad 2中兼容USB2.0的信號做設計，至少，實際的產品你是體驗不到速度的差別，而又能減少上圖中Fresco FL1100這顆芯片成本，何樂而不為呢？
但明顯研揚科技沒那麼做，硬是設計中加入了PCI-E轉USB3.0的這顆控制芯片，那麼，等Intel提供的SDK支持USB3.0的時候，你就完全感受到速度上的差別，所以說是良心設計。
UP Squared Board+UP AI Core組合使用
毫無違和感的組合，完美！
運行hello_ncs的程序，能識別到，那就基本上意味著可以直接拿Intel Movidius NCS的SDK使用，溜得飛起。
同樣，AI Core和NCS搭配一起使用也完全沒問題。
比如兩者協助，共同實現鳥的識別
交通汽車、人的識別
傳輸測試
因為本質上AI Core與Intel推出的NCS神經計算棒是沒什麼差別的，主要的不同在於傳輸方式，所以下面通過採用同樣一個樣本傳輸測試，對比下AI Core在UP Squared Board、NCS在UP Squared Board、NCS在樹莓派上的傳輸速度。
AI Core與UP Squared Board組合
NCS與UP Squared Board組合
NCS與樹莓派組合
每個組合都連續測試3次，綜合成績排行的話為：NCS與UP Squared Board組合 > AI Core與UP Squared Board組合 > NCS與樹莓派組合。但是，在目前的條件下，這種傳輸速率的差異基本可以忽略不計。
不過AI Core+UP Squared Board獨特的組合方式還是讓人眼前一亮，並且其直接兼容Intel官方提供的NCS的SDK，可以無任何難度上手，另外，其可怕的穩定性也值得稱道，據筆者實測，在週五的時候運行圖像推理，直到週一早上看還是穩定運行著，而樹莓派之前的測試記錄只有幾個小時就掛了，所以尤其面對穩定可靠性較高的工業應用，目前來看AI Core+UP Squared Board是一個極佳的組合。
小結
基於人工智能的邊緣計算的最大的好處就是不用依賴雲端，實現更加可靠和快速的推理。而現在這種解決方式越來越受到廠商青睞，雖然本次評測體驗下來UP AI Core和Movidius NCS的性能差不多，但是其良心的設計讓我對研揚這家公司充滿了敬意，期待哪天Intel提供的SDK支持USB3.0，那時候，無論是UP AI Core+UP Squared Board的組合還是NCS+UP Squared Board的組合在邊緣推理速度方便都能真正秒殺樹莓派+Movidius NCS的組合。而現在，AI Core在性能上雖然沒什麼大躍進，但是勝在兼容Movidius NCS的SDK，勝在mini PCI-E的接口提供了著一個更加可靠穩定、不佔用空間的優勢，更好的融入更多基於像UP Suqared Board這類型的原型設計的開發中去，並且，以目前的情況，是否有極客去設計一個基於樹莓派上的mini PCI-E擴展板來適配UP AI Core，這樣無疑也會很不錯。
原文鏈接：http://www.eeboard.com/evaluation/upaicore/4/
閱讀更多 愛板網 的文章
