學(xué)嵌入式電腦內(nèi)存多大_以AI神經(jīng)網(wǎng)絡(luò)為導(dǎo)向的嵌入式系統(tǒng)市場(chǎng)迎來爆發(fā)期

小嵌

學(xué)嵌入式電腦內(nèi)存多大_以AI神經(jīng)網(wǎng)絡(luò)為導(dǎo)向的嵌入式系統(tǒng)市場(chǎng)迎來爆發(fā)期,   

（文章來源：OFweek）

隨著許多嵌入式系開始變得智能且自主，以人工智能（AI）神經(jīng)網(wǎng)絡(luò)為導(dǎo)向的嵌入式系統(tǒng)市場(chǎng)即將起飛，神經(jīng)網(wǎng)絡(luò)加速器大戰(zhàn)一觸發(fā)。嵌入式神經(jīng)網(wǎng)絡(luò)加速器市場(chǎng)持續(xù)升溫，從智能音箱、無人機(jī)到智能燈泡等越來越多的系統(tǒng)準(zhǔn)備在本地執(zhí)行神經(jīng)網(wǎng)絡(luò)，以取代傳送至云端進(jìn)行運(yùn)算的途徑。

英特爾旗下子公司Movidius在上周推出了一款采用USB外形的獨(dú)立式人工智能（AI）加速器。 El－Ouazzane說，這款名為Movidius神經(jīng)運(yùn)算棒（Neural Compute Stick）的AI加速器設(shè)計(jì)，可輕松簡單地插入Raspberry Pi或X86 PC，讓大學(xué)研究人員、獨(dú)立軟件開發(fā)人員與程序增補(bǔ)人員易于為嵌入式系統(tǒng)進(jìn)行編譯、調(diào)整以及加速深度學(xué)習(xí)應(yīng)用。

Movidius在去年秋天被英特爾收購后，如今已成為英特爾新技術(shù)部門的一部份。 Movidius之前曾經(jīng)開發(fā)出業(yè)界首款視覺處理器——Myriad 2 VPU。 如今，El－Ouazzane表示，推出這款運(yùn)算棒的最終目標(biāo)在于讓Movidius VPU成為可在邊緣執(zhí)行神經(jīng)網(wǎng)絡(luò)的參考架構(gòu)。盡管目標(biāo)遠(yuǎn)大，但業(yè)界分析師隨即指出，Movidius Myriad 2 VPU當(dāng)然不是嵌入式系統(tǒng)中可在邊緣執(zhí)行神經(jīng)網(wǎng)絡(luò)的唯一選擇。

  

TIrias Research首席分析師Jim McGregor表示：從技術(shù)上來看，您可以使用任何具有處理組件的開發(fā)板，并用于執(zhí)行一種模型。 例如機(jī)器學(xué)習(xí)（Machine learning）／AI模型已經(jīng)執(zhí)行于各種廣泛的處理器和SoC了，特別是針對(duì)行動(dòng)領(lǐng)域。高通（Qualcomm）以Snapdragon系列實(shí)現(xiàn)的影像辨識(shí)可說是最佳的例子。 高通從Snapdragon 820開始采用自家開發(fā)的模型，McGregor說：Snapdragon基本上就是推理引擎。

具有平行處理組件（如GPU、DSP和FPGA）的處理解決方案非常適于作為推理引擎。 McGregor解釋說，許多正在開發(fā)中的客制化芯片解決方案都采用可內(nèi)建于SoC的DSP或FPGA。Linley Gwennap首席分析師Linley Gwennap對(duì)此表示贊同。 他在最近出刊的《微處理器報(bào)告》（Microprocessor Report）中寫道：高通、蘋果（Apple）和英特爾（Movidius）都在打造一種新的產(chǎn)品類別：神經(jīng)加速器。

Gwennap解釋說，對(duì)于這些以客戶端為基礎(chǔ)的加速器需求來自于要求極低延遲的自動(dòng)駕駛車。 Gwennap在該報(bào)告的評(píng)論中指出，在本地進(jìn)行處理的新技術(shù)將會(huì)開始滲透至一些較低成本的應(yīng)用。 他預(yù)測(cè)，在消費(fèi)裝置中，小型的神經(jīng)加速器可能是SoC中的一個(gè)重要區(qū)塊，就像是繪圖核心或圖像處理器一樣。 幾家知識(shí)產(chǎn)權(quán)（IP）供貨商開始提供這一類加速器，期望盡可能地降低額外的硬件成本。

Gwennap在的訪談中指出，Movidius Neural Compute STIck對(duì)于開發(fā)人員幾乎沒有什么不同。對(duì)于開發(fā)人員來說，這并沒什么不起。 典型的PC就能產(chǎn)生至少100GFLOPS，特別是如果它還內(nèi)建繪圖卡，直接在PC上進(jìn)行開發(fā)會(huì)更好。 對(duì)于需要較低功率處理器的嵌入式系統(tǒng)，高通Snapdragon 835提供超過250GOPS的效能，對(duì)于大多數(shù)的推理應(yīng)用來說都?jí)蛄恕?

不過，Movidius的El－Ouazzane并不贊同這樣的看法。首先，Movidius Neural Compute STIck利用USB讓神經(jīng)網(wǎng)絡(luò)更易于存取，有利于制造商或程序增補(bǔ)人員用于開發(fā)深度神經(jīng)網(wǎng)絡(luò)原型或進(jìn)行調(diào)整。其次是電源效率的問題。 El－Ouazzane指出，Movidius的解決方案可讓神經(jīng)網(wǎng)絡(luò)在邊緣運(yùn)算時(shí)旳功耗小于2瓦（W）。

然后，還有成本的考慮。 El－Ouazzane說：我認(rèn)為這是一個(gè)殺手級(jí)因素。 Movidius Neural Compute STIck要價(jià)79美元，可望讓神經(jīng)網(wǎng)絡(luò)的發(fā)展變得超級(jí)普遍。他預(yù)期開發(fā)人員能使用Movidius的神經(jīng)運(yùn)算平臺(tái)（Neural Compute Platform）應(yīng)用程序編程接口（API），將經(jīng)過訓(xùn)練的Caffe、前饋卷積神經(jīng)網(wǎng)絡(luò)（CNN）輸入工具套件中，并進(jìn)行配置，然后編譯成一種可用于嵌入式部署的調(diào)整版本。

（責(zé)任編輯：fqj）