0
| 本文作者： 張莉 | 2018-07-31 17:43 |
雷鋒網(wǎng)按，7月27日，英特爾舉辦以“智能端到端，英特爾變革物聯(lián)網(wǎng)”為主題的視覺解決方案及策略發(fā)布會，正式推出OpenVINO視覺推理和神經(jīng)網(wǎng)絡(luò)優(yōu)化工具套件。
首先，英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理陳偉博士闡述了聚焦研發(fā)邊緣計算和計算機視覺解決方案的戰(zhàn)略意圖；其次，英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士介紹了OpenVINO的技術(shù)細節(jié)；此外，英特爾中國銷售總經(jīng)理王稚聰分享了OpenVINO具體市場應(yīng)用。最后，合作伙伴代表介紹了與英特爾的合作歷程，以及使用英特爾硬件和包括OpenVINO工具包在內(nèi)的軟件工具等開發(fā)的行業(yè)應(yīng)用產(chǎn)品。
雷鋒網(wǎng)注：英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理 陳偉博士
首先，英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理陳偉博士闡述了英特爾聚焦研發(fā)邊緣計算和計算機視覺解決方案的戰(zhàn)略意圖。
陳偉指出，過去幾年，由于數(shù)據(jù)的蓬勃發(fā)展，不管是消費者數(shù)據(jù)還是行業(yè)數(shù)字化產(chǎn)生的數(shù)據(jù)，都是在邊緣產(chǎn)生的，直接擠壓到了對存儲和帶寬的要求，以至于物聯(lián)網(wǎng)行業(yè)內(nèi)都在討論邊緣計算的概念，對于邊緣大數(shù)據(jù)也有了新的思考。英特爾聚焦在視頻領(lǐng)域是因為視頻的數(shù)據(jù)量最大、最復(fù)雜，濃度也最高，確實擠壓到了端到端的架構(gòu)，“在英特爾，在物聯(lián)網(wǎng)事業(yè)部，我們把視頻技術(shù)當成是一個橫向的技術(shù)，作為我們的主要戰(zhàn)略”。
但是，把所謂邊緣的人工智能真正推向邊緣并不是一個很簡單的事情，在今天來看也沒有一個一勞永逸的方案。為此，英特爾通過提供業(yè)界最全面的計算平臺助力人工智能。英特爾首席研究員、英特爾中國研究院認知計算實驗室主任陳玉榮在2018CCF-GAIR大會上詳細介紹了該平臺的具體內(nèi)容。
英特爾的硬件支持從混合型到專用型，從云端到終端的最廣泛的AI應(yīng)用負載。并提供多種軟件工具組合來幫助加速AI解決方案的開發(fā)周期。還采取基于社區(qū)和解決方案驅(qū)動的方法，以拓展AI和豐富每個人的生活。
在工具方面，對于應(yīng)用開發(fā)者，英特爾提供了很多工具來提升性能和幫助加速解決方案的部署。針對深度學(xué)習(xí)，開源的OpenVINO和英特爾Movidius SDK 可以通過模型的轉(zhuǎn)換和優(yōu)化，提供針對英特爾各個目標硬件優(yōu)化的深度學(xué)習(xí)推斷部署。
據(jù)陳偉博士介紹，OpenVINO于5月16日在全球發(fā)布，經(jīng)過過去幾個月的合作、研發(fā)、優(yōu)化，7月27號下午正式面向中國市場發(fā)布。具有跨平臺的靈活性，支持和兼容主流的深度學(xué)習(xí)框架，使邊緣計算解決方案能夠提高性能?！伴_源也是在我們的計劃之中，開源的目的是使得OpenVINO變成生態(tài)鏈的一個主要部分?！?/p>
雷鋒網(wǎng)注：英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師 張宇博士
接著，英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士介紹了OpenVINO的技術(shù)細節(jié)。
據(jù)介紹，OpenVINO是一個可以加快高性能計算機視覺和深度學(xué)習(xí)視覺應(yīng)用開發(fā)的工具套件，它能夠支持英特爾平臺的各種加速器，包括CPU、GPU、FPGA以及Movidius的VPU，來進行深度學(xué)習(xí)，同時能夠直接支持異構(gòu)的執(zhí)行。
使用的對象是軟件開發(fā)人員以及開發(fā)、監(jiān)控、零售、醫(yī)療、辦公自動化以及自動駕駛等領(lǐng)域的數(shù)據(jù)科學(xué)家。
OpenVINO對深度學(xué)習(xí)和傳統(tǒng)的計算機視覺這兩類方法都有很好的支持，包含一個深度學(xué)習(xí)的部署工具套件，這個工具套件可以幫助開發(fā)者，把已經(jīng)訓(xùn)練好的網(wǎng)絡(luò)模型部署到目標平臺之上進行推理操作。
這樣的一個深度學(xué)習(xí)的部署套件主要包括兩個網(wǎng)元，一個網(wǎng)元稱之為模型優(yōu)化器，另外一個被稱之為推理引擎。模型優(yōu)化可以把開發(fā)者基于一些開放的深度學(xué)習(xí)的框架所開發(fā)的網(wǎng)絡(luò)模型，針對所選用的目標平臺進行優(yōu)化，把這些優(yōu)化的結(jié)果轉(zhuǎn)換成一個中間表示文件，建成IR文件。
下一步，推理引擎會讀取這個IR文件，然后利用相應(yīng)的硬件插件把這些IR文件下載到相應(yīng)目標平臺上進行執(zhí)行。同時，在OpenVINO里面，還包含一個傳統(tǒng)的計算機視覺的工具庫，在這個工具庫里包含了經(jīng)過預(yù)編譯的而且在英特爾CPU上已經(jīng)經(jīng)過優(yōu)化的OpenCV3.3的版本。
除了對OpenCV的支持以外，在OpenVINO中還包含了對OpenVX以及OpenVX在神經(jīng)網(wǎng)絡(luò)擴展的支持，同時在媒體、視頻、圖像處理領(lǐng)域還包含了已經(jīng)非常成熟的英特爾的媒體軟件開發(fā)套件Media SDK，它可以幫助開發(fā)者非常方便的利用英特爾CPU里面集成顯卡的資源來實現(xiàn)視頻的編碼、解碼以及轉(zhuǎn)碼的操作，而且支持多種視頻編解碼的格式，如H.264、H.265等。
張宇博士也介紹了如何利用英特爾的深度學(xué)習(xí)部署工具套件開發(fā)深度學(xué)習(xí)的應(yīng)用。
目前比較流行的深度學(xué)習(xí)的框架主要有三個，即Caffe、Tensor Flow、MxNet，英特爾在設(shè)計OpenVINO的時候考慮到了目前開發(fā)者的習(xí)慣，所以模型優(yōu)化器通過配置以后可以把這三個主要的開發(fā)框架上所開發(fā)的網(wǎng)絡(luò)導(dǎo)入到英特爾的平臺上，而且導(dǎo)入的過程中，會根據(jù)目標平臺的特性做一定的優(yōu)化，把這些優(yōu)化的結(jié)果轉(zhuǎn)換成IR文件。
文件里會包含優(yōu)化以后的網(wǎng)絡(luò)拓撲結(jié)構(gòu)，以及優(yōu)化之后的模型參數(shù)和模型變量。這個IR文件后面會被推理引擎進行讀取，推理引擎會根據(jù)開發(fā)者所選用的目標平臺去選用相應(yīng)的硬件插件，把最終的文件下載到開發(fā)者的目標平臺之上。
目前所支持的插件包括CPU的插件，核心顯卡的GPU插件，F(xiàn)PGA的插件以及Myriad VPU的插件。插件使用完之后，可以把相應(yīng)的IR文件下載到目標平臺之上，開發(fā)者可以通過一些測試程序或者應(yīng)用來驗證它的正確性。在驗證完之后可以把這些推理引擎和中間表述文件一起下載到或者集成到最終應(yīng)用里進行部署，這是完整的進行深度學(xué)習(xí)應(yīng)用開發(fā)的流程。
目前，英特爾通過向FPGA的插件，可以把中間文件下載到英特爾Arria10的FPGA板卡之上，調(diào)用DLA的庫，實現(xiàn)在FPGA上的網(wǎng)絡(luò)的推理操作；或者通過MKLDN的插件，把中間文件下載到英特爾的凌動處理器、酷睿處理器或者是至強處理器之下，在這些通用的CPU之上實現(xiàn)深度學(xué)習(xí)的運行；再或者，通過CLDNN以及OpenCL的接口，把一些神經(jīng)網(wǎng)絡(luò)運行在英特爾的集成顯卡之上；或者是利用Movidius的插件，把神經(jīng)網(wǎng)絡(luò)運行在基于Myriad2的深度學(xué)習(xí)計算棒，或在今年年底將要推出的Myriad X上。
通過這樣一些插件，可以選擇不同的異構(gòu)的計算結(jié)構(gòu)，而且到今后，如果有一個新的硬件的架構(gòu)需要支持的話，也可以設(shè)計一個相應(yīng)的插件來實現(xiàn)這樣的一些支持的擴展，而不需要改變插件之上的一些軟件，從而降低開發(fā)者的開發(fā)成本。
OpenVINO工具套件訪問實際上是分層的，不同的開發(fā)者可以根據(jù)自己的使用要求以及開發(fā)的能力去選擇不同的API接口進行調(diào)用OpenVINO。比如公司做一個考勤系統(tǒng)，完全可以調(diào)用OpenVINO帶的人臉識別示例，根據(jù)公司員工數(shù)據(jù)庫做一個相應(yīng)的樣本集，根據(jù)樣本集的調(diào)用可以找到當前這個員工是不是這個數(shù)據(jù)庫里的員工。
OpenVINO已經(jīng)提供了一些網(wǎng)絡(luò)的實現(xiàn)，即Model Zoo，可以在這個實現(xiàn)基礎(chǔ)之上實現(xiàn)相應(yīng)的應(yīng)用。
總的來說，OpenVINO的優(yōu)勢有以下幾點。
首先，性能方面，通過OpenVINO，可以使用英特爾的各種硬件的加速資源，包括CPU、GPU、VPU、FPGA，這些資源能夠幫助開發(fā)者提升深度學(xué)習(xí)的算法在做推理的時候的性能，而且執(zhí)行的過程中支持異構(gòu)處理和異步執(zhí)行，能夠減少由于系統(tǒng)資源等待所占用的時間。
另外，OpenVINO使用了經(jīng)過優(yōu)化以后的OpenCV和OpenVX，同時提供了很多應(yīng)用示例，可以縮短開發(fā)時間。這些庫都支持異構(gòu)的執(zhí)行，編寫一次以后可以通過異構(gòu)的接口支撐跑在其他的硬件平臺之上。
在深度學(xué)習(xí)方面，OpenVINO帶有模型優(yōu)化器、推理引擎以及超過20個預(yù)先訓(xùn)練的模型，開發(fā)者可以利用提供的這些工具，快速的實現(xiàn)自己基于深度學(xué)習(xí)的應(yīng)用，而且OpenVINO使用了OpenCV、OpeenVX的基礎(chǔ)庫，可以利用這些基礎(chǔ)庫去開發(fā)自己特定的算法，實現(xiàn)自己的定制和創(chuàng)新。
最后，張宇展示了目前使用OpenVINO能達到的性能水平。張宇團隊用了像Google Nex這樣一些開放的網(wǎng)絡(luò)，在英特爾不同的硬件平臺之上做了一些性能方面的測試，把這些測試的結(jié)果跟現(xiàn)在市面上的一些比較流行的平臺的結(jié)果做了簡單的對比，在英特爾的酷睿i77800X這個處理器平臺上去跑上述開放網(wǎng)絡(luò)的話，它的相應(yīng)的性價比是目前市面上解決方案的兩倍以上。
如果選用FPGA的產(chǎn)品，它的性能、功耗、成本比值的綜合考量的因素性能大概能達到1.4倍以上。如果是用Movidius的話，這樣的性能進一步提升能達到5倍以上。英特爾Movidius VPU是低功耗計算機視覺和深度推斷的解決方案。在邊緣計算方面，可以通過使用多個Movidius VPU，實現(xiàn)高強度、高效的媒體和視覺推斷。在終端，Movidius VPU在超低能耗下可以提供優(yōu)異的推斷吞吐量，可以用于物聯(lián)網(wǎng)傳感器、個人計算機和其他終端產(chǎn)品中進行視覺處理和推斷。
應(yīng)用：提出六大應(yīng)用方向和前景方案
雷鋒網(wǎng)注：英特爾中國銷售總經(jīng)理王稚聰
發(fā)布會的第三個環(huán)節(jié)，英特爾中國銷售總經(jīng)理王稚聰分享了OpenVINO和人工智能技術(shù)具體的市場應(yīng)用。
在中國，英特爾提出了六大應(yīng)用方向和前景方案。
交通監(jiān)控。采用英特爾FPGA和Movidius VPU的攝像頭可捕捉數(shù)據(jù)，并自動將其發(fā)送至下游十字路口系統(tǒng)，幫助交通部門優(yōu)化交通和做好規(guī)劃。這些信息可通過車載系統(tǒng)或應(yīng)用直接傳達給司機，幫助他們規(guī)劃路線。
公共安全。借助使用OpenVINO工具包開發(fā)的Myriad VPU和算法，經(jīng)過訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)現(xiàn)在可利用推理功能通用面部識別分析并識別失蹤兒童。采用了這一技術(shù)的城市執(zhí)法機構(gòu)可在經(jīng)過訓(xùn)練的數(shù)據(jù)集匹配到人群中已報告失蹤兒童的臉部時，即時收到相關(guān)通知。
工業(yè)自動化。英特爾視覺解決方案可幫助智能工廠融合OT和IT，重塑工業(yè)業(yè)務(wù)模式和增長戰(zhàn)略。生產(chǎn)控制將可自動、流暢運轉(zhuǎn)，縮短上市時間。
機器視覺。借助人工智能增強工業(yè)機器視覺，支持更精準的工廠自動化應(yīng)用。解決方案組合攝像頭、電腦和算法，以分析圖像和視頻，在邊緣提供可以用于指導(dǎo)行動的重要信息。
響應(yīng)式零售。在邊緣使用英特爾計算機視覺解決方案的零售商，可以快速識別特定客戶或客戶行為模式，從而提供個性化的精準營銷服務(wù)。
運營管理。通過使用基于英特爾架構(gòu)的計算機視覺解決方案，零售商可簡化運營、管理庫存、優(yōu)化供應(yīng)鏈和增強推銷能力，并幫助他們發(fā)掘數(shù)據(jù)的更高價值。
陳偉博士表示，“當下，由數(shù)據(jù)驅(qū)動的技術(shù)正在重塑著我們所處的世界并為我們描繪著未來的無限可能。值得一提的是，中國市場在人工智能和計算機視覺方面的應(yīng)用處于全球領(lǐng)先位置，我們已經(jīng)把中國市場的需求信息規(guī)劃到未來的產(chǎn)品線里。相信在不久的將來，我們會看到更多來自中國市場的智能視覺創(chuàng)新應(yīng)用?！?/p>
最后，云從科技項目總監(jiān)李軍，大華公司研發(fā)中心副總裁殷俊，宇視研發(fā)副總裁AI產(chǎn)品線總監(jiān)湯立波，科達研究院執(zhí)行院長曹李軍，中科英泰副總裁劉福利，大疆創(chuàng)新科技資深產(chǎn)品專家William Wu，阿里巴巴OS事業(yè)部智能硬件研發(fā)負責人馬飛飛等英特爾合作伙伴代表紛紛登臺，介紹了與英特爾的合作歷程，以及使用英特爾硬件和包括OpenVINO工具包在內(nèi)的軟件工具等開發(fā)的具體的行業(yè)應(yīng)用產(chǎn)品。
會后，包括雷鋒網(wǎng)在內(nèi)的多家媒體對此次參會的多位英特爾負責人進行了采訪，談到OpenVINO跟英特爾其他以前推出來的SDK有什么本質(zhì)的區(qū)別，陳偉博士答道：“以英特爾物聯(lián)網(wǎng)事業(yè)部來說，我們之前也推出過其他的一些SDK，比如Movidius SDK，主要做媒體處理。OpenVINO實際上在這次發(fā)布的時候包含了Movidius SDK，我們在這個基礎(chǔ)之上做了進一步的功能擴充?！?/p>
“功能的擴充主要體現(xiàn)在幾個方面：一是增加了對深度學(xué)習(xí)的功能支持，你可以看到我們有一個深度學(xué)習(xí)的部署工具套件，里面包括了模型優(yōu)化器和推理引擎，這完全是新的。另外，我們在Movidius SDK基礎(chǔ)之上，增加了對OpenCV、OpenVX等等這些現(xiàn)在在傳統(tǒng)的計算機視覺領(lǐng)域用的比較普遍的函數(shù)庫的支持，而且這些函數(shù)庫都是在英特爾的CPU上做了優(yōu)化的。”
“所以跟原有的Movidius SDK相比，原來只是做編碼、解碼的加速，現(xiàn)在不僅能做編解碼的加速，也能做一些視頻處理工作，我們把MovidiusSDK結(jié)合在一起的目的是什么？我們看到一個完整的視頻處理系統(tǒng)，從它的處理流程來看，第一步要做編解碼，解碼以后，把解碼的圖片交給相應(yīng)的處理引擎做深度學(xué)習(xí)或者是傳統(tǒng)的計算機視覺的一些處理操作，到最終的結(jié)果。我們把在整個流水線里面所用到的所有工具打包在一起放到OpenVINO里面，讓開發(fā)者只用一個工具就能把所有的需求都滿足?！?/p>
雷鋒網(wǎng)對此次采訪其他涉及OpenVINO的關(guān)鍵問題進行了不改變原意的編輯與整理：
1.對于英特爾，是否有相關(guān)的參考設(shè)計方案，或者是從端到端的參考方案能夠提供給客戶，更快速的應(yīng)用到OpenVINO這個系統(tǒng)？同時，在OpenVINO工具里，如果我的設(shè)備里同時存在FPGA、GPU、CPU以及其他的處理單元，怎么去規(guī)劃它的計算力使用的優(yōu)先級？
顧典（英特爾技術(shù)專家）：我首先回答第一個問題。為了更加速客戶的產(chǎn)品開發(fā)和部署，我們有沒有實力供給客戶做參考。在張博士的演講當中也略微提到了幾點。
第一，我們有一些預(yù)訓(xùn)練的模型，會在OpenVINO的安裝包里涵蓋。這個模型正在不斷地擴容，早些時候的一個版本是100多個模型，在我們當前這個版本當中已經(jīng)擴展到了150個模型。
大家剛剛也提到英特爾在發(fā)布自己的SDK上和以往有什么不一樣。其實另外一個比較細節(jié)化的不一樣，因為我們知道人工智能和深度學(xué)習(xí)發(fā)展非?？欤跃W(wǎng)絡(luò)模型更新迭代也是非?？?。
我們發(fā)布這樣的軟件工具，在更新迭代的速率上也會做和以往做不一樣的提速處理。比如OpenVINO在今年上半年做了一個發(fā)布，在下半年我們還規(guī)劃了兩次很大的更新，所以大家也可以從更新的速率上看出來，我們也是為了方便客戶的開發(fā)，縮短客戶的時間。
另外，OpenVINO里面有一個叫Open Model Zoo，這不是一個簡單的網(wǎng)絡(luò)參考，而是基于一些網(wǎng)絡(luò)組合的融合，已經(jīng)把具體的客戶的應(yīng)用實例開發(fā)出來，當然這個開發(fā)實例不是完整完善的應(yīng)用，這只是一個參考，但客戶完全可以基于Open Model Zoo現(xiàn)成的應(yīng)用樣本進一步的做好開發(fā)。
第二個問題，如果我們設(shè)計目標系統(tǒng)里有不同的硬件組件，比如我有FPGA或者是GPU，在OpenVINO工具包里有一個特殊的插件，叫異構(gòu)計算插件，剛剛張博士的演講里提到一點，我們?nèi)绻繕讼到y(tǒng)里面涵蓋了不同的硬件設(shè)備，可以通過異構(gòu)的插件進行非常靈活的配置。
我這里強調(diào)了配置，不是重新寫很復(fù)雜的代碼，把工作負載分配到不同的硬件軟件上，我們會有相對簡單的API，大家可以在里面寫，哪一個部分的Workload可以在GPU上面實現(xiàn)，哪一部分不被硬件支持。這個配置相當簡單、相當靈活，也帶有一定的客制化的冗余，所以剛開始的時候會有一定的學(xué)習(xí)成本，但是上手以后，對于開發(fā)難度來說大大降低，對于客戶和合作伙伴來講，開發(fā)周期也會起到非常好的縮短效果。
2.整個圖像處理的算法一直很復(fù)雜，我們在處理四元異構(gòu)加速問題上一直存在，存在了七八年的時間，我不太知道為什么在這樣一個節(jié)點推出這樣一個產(chǎn)品，是不是在解決異構(gòu)加速上的關(guān)鍵問題，關(guān)鍵問題是如何解決的？
顧典：在歷史上以往所謂的處理計算機視覺的異構(gòu)計算里，我們往往強調(diào)的是圖像處理本身，比如包括一些通用的核心處理，這些部分構(gòu)成了傳統(tǒng)意義上的異構(gòu)計算，即更偏圖像異構(gòu)處理的計算，從SOC的設(shè)計角度來說，這部分的圖像異構(gòu)計算在過去相當長的發(fā)展歷史階段已經(jīng)得到了比較充分的滿足。
為什么今天還會強調(diào)異構(gòu)計算，是因為人工智能帶來了一種新的計算需求。比如說卷積神經(jīng)網(wǎng)絡(luò)或者是深度學(xué)習(xí)網(wǎng)絡(luò)。網(wǎng)絡(luò)類型的計算對于圖象處理是新的挑戰(zhàn)，在這樣一個新的計算需求下，我們重新再提出異構(gòu)計算這個概念。
從英特爾自身的優(yōu)勢來說，因為結(jié)合了CPU，顯核GPU還有FPGA和VPU不同的產(chǎn)品組合，所以從自身推廣自己的產(chǎn)品平臺角度來說，我們也認為這是需要幫助客戶解決的問題。
從這兩個出發(fā)點來說，異構(gòu)計算還是因為需求問題存在，也是因為本身我們要推廣產(chǎn)品的一個需要。里面關(guān)鍵的一個問題是，我們在OpenVINO的開發(fā)工具里面做了很多考慮怎么樣使異構(gòu)計算變得更容易的一些方式，包括剛剛講的可配置的異構(gòu)計算插件的解決方式。
張宇：我補充一點。如果你看整個趨勢的話，英特爾產(chǎn)品線的變化趨勢，體現(xiàn)了我們對整個人工智能處理的判斷，從之前來看，我們的產(chǎn)品線主要集中在通用處理器和顯核和GPU上，這兩種主要做一些相對來說比較通用的邏輯計算和一些視頻編解碼的計算。
到了人工智能，我們看到一些相對來說比較專業(yè)的處理器，像Movidius和一些高清的FPGA的處理器，有很普遍適用的場景，所以我們認為人工智能計算適應(yīng)的架構(gòu)是根據(jù)節(jié)點要求的多樣化架構(gòu)，很難有單一的一種類型的行為架構(gòu)來滿足所有節(jié)點對人工智能計算的要求，這是我們的判斷。
基于這個判斷，英特爾產(chǎn)品線在這幾年變的豐富了，我們的FPGA和Movidius是通過這幾年的收購來進入到英特爾的產(chǎn)品當中來，為什么在這個時間節(jié)點推出OpenVINO，因為硬件產(chǎn)品線豐富了，就有一個要求，開發(fā)者在使用硬件的時候，他不希望有不同的開發(fā)工具，不同的開發(fā)語言，這樣會增加他的開發(fā)成本，所以我們認為需要給開發(fā)者一個通用的、統(tǒng)一的開發(fā)接口來降低整個開發(fā)開銷，所以我們認為OpenVINO在這個時候推出是適宜的。
3.問一下張博士，在您剛才介紹的時候，您對OpenVINO的定義是它能夠加速高性能計算視覺，包括深度學(xué)習(xí)視覺部署開發(fā)速度的套件，但是在終端性的應(yīng)用里不光是開發(fā)速度，可能對于運算的效率、功耗都更為重要，所以O(shè)penVINO在這些方面有沒有一些計劃？另外，算法也是不斷演進的，在兼容不同的算法方面有什么考慮？
張宇：在這一方面我們既考慮到開發(fā)的應(yīng)用性，同時也考慮它開發(fā)之后的高效性。應(yīng)用性主要體現(xiàn)在我們對一些開放的人工智能架構(gòu)的支持，因為現(xiàn)在開發(fā)者基本上都是在Caffe、Tensor Flow、MxNet以及一些其它的網(wǎng)絡(luò)框架上來進行開發(fā)，所以我們直接提供了對這些框架的支持，保證開發(fā)者在這個框架下所寫的模型，通過我們的工具能夠很快的轉(zhuǎn)換在硬件平臺之上。
高效性的體現(xiàn)主要是體現(xiàn)在對硬件的支持上，以前你寫的模型只是跑在通用處理器上，但是終端的設(shè)備里面有一些加速引擎或者是核顯，或者是有Movidius、FPGA，我們會幫助你，把你所寫的模型跑到這些加速引擎之上，來達到更好的效果，這是我們在做的一些工作。
顧典：做一些補充。除了剛剛張博士講的，從算法的效率角度來說，我們在OpenVINO工具設(shè)計上還做了非常細致的考慮，在剛剛的介紹里面提到OpenVINO的架構(gòu)里有一些組件，比如有一個組件叫模型優(yōu)化器，叫Model Optimizer，在Model Optimizer這個層級的API里面，我們會基于和廣大生態(tài)合作伙伴積累的經(jīng)驗實施一些比較通用的優(yōu)化策略。剛剛張博士演講當中也提到了一些量化的策略，我們會通過模型的優(yōu)化器去實現(xiàn)。這一個層級算法效率的提升，它的實現(xiàn)和底層硬件沒有任何關(guān)系，這是一些通用策略。
另外，目前我們的OpenVINO的版本已經(jīng)開源了模型優(yōu)化器，這個是開源版，基于開發(fā)者的經(jīng)驗可以自己自定義優(yōu)化策略，把優(yōu)化策略通過自己加一些代碼就可以形成自定義的擴展，把擴展加進去，再把模型導(dǎo)入以后，你的模型就可以被增加的這部分功能優(yōu)化。這是第一個層面。
第二個層面，如果我們把轉(zhuǎn)化過的模型推送到推定引擎的時候，因為推定引擎最終會使代碼下到最底層的硬件，這一層面上我們會就下到哪一個硬件類型，去做關(guān)于硬件這部分的優(yōu)化。和硬件相關(guān)的這部分優(yōu)化是需要開發(fā)者對于相應(yīng)的硬件IP有一定深入的了解。
4.從英特爾的角度來看，您是否會覺得人工智能在現(xiàn)階段FPGA是一個比較好的載體？另外，這種集成了CPU、GPU類型的FPGA，跟通過軟件來去協(xié)同共同的CPU、GPU、VPU這種類型的架構(gòu)的項目之間有何區(qū)別？
張宇：我認為目前人工智能處在初始階段，我把它定義為一個實驗科學(xué)，而不是理論科學(xué)，因為現(xiàn)在大家做的很多算法實際上是通過摸索、實驗出來的，比如我用SSD做檢測，效果不錯，但是這個算法的上限在哪？這個很多人說不清楚，因為現(xiàn)在的人工智能還缺少一個理論的支撐。
現(xiàn)在如果我們看人工智能，其實沒有一個完整的理論體系，大家更多的是利用各種實驗的方式找到這個方式是比較好的，用到某一個具體的領(lǐng)域，但是這個方法適用度到什么程度，換一個領(lǐng)域是不是能夠適用，只能通過實驗的方式進行驗證，而不能用理論的方式進行驗證，這是目前人工智能的現(xiàn)狀。
在這種情況下，我看到整個人工智能芯片的發(fā)展，目前還是FPGA、CPU，在算法不固定的情況下，還是用通用處理器比較多一些。但是在一些前端的設(shè)備里，因為算法相對固定了，通過一些實驗驗證完的算法可以把它固定下來，這個時候用的ASIC比較多一些，比如現(xiàn)在在我的攝像機里用Movidius這樣的ASIC芯片去實現(xiàn)特定的算法，這是比較高效的，因為算法固定，ASIC的效率一定是最高的，而且它的功耗低，能夠滿足前端設(shè)備對低功耗的要求。
所以剛才您的問題，FPGA有FPGA的適用場景，ASIC有ASIC的使用場景，通用處理器也有通用處理器的使用場景，尤其是在訓(xùn)練階段。所以這是我覺得目前整個人工智能發(fā)展現(xiàn)狀的局限。
到了今后，如果理論進一步完善了，也可能會有新一代的處理器架構(gòu)出現(xiàn)，那個時候到底人工智能芯片是什么樣子？我們現(xiàn)在很難說，但是我們可以用一個方式進行影射，用什么方法進行影射呢？我們可以對比一下區(qū)塊鏈。
大家知道，以比特幣為例，雖然比特幣商業(yè)價值我們不說，我們看它的理論價值，比特幣的理論價值相對來說是比較完善的，因為它是以哈希算法為基礎(chǔ)，相對來說算法固定了就可以用一些相對來說比較固定的硬件架構(gòu)實現(xiàn)。
所以你看整個比特幣礦機芯片的發(fā)展階段，第一個階段用的是GPU和CPU，第二個階段是FPGA。因為FPGA既有一定的靈活度，同時性能功耗比比較高。到了第三個階段是ASIC?，F(xiàn)在像比特大陸等等這些礦機廠商都在做自己的芯片，原因在于他們的理論已經(jīng)比較完善了，所以人工智能很可能也是類似的，但是因為這個理論不太成熟，所以很難去預(yù)估今后人工智能芯片價格到底是什么樣子，在目前這個階段還是根據(jù)特定的應(yīng)用場景訓(xùn)練來選擇的視覺運算。
做目前視頻類的人工智能運算的時候，不僅僅有卷積神經(jīng)網(wǎng)絡(luò)這一個要素，因為做視頻處理涉及到其他的要素，比如視頻過來之后要做編解碼，跟卷積神經(jīng)網(wǎng)絡(luò)是不一樣的，不可能用同樣的架構(gòu)來實現(xiàn)，所以如果要一個高效系統(tǒng)的話，應(yīng)該有一個專門去做編解碼的硬核。
另外，做深度學(xué)習(xí)的時候，有的時候還要做一些圖形的轉(zhuǎn)換，比如縮放或者做一些處理，本身這些處理不屬于卷積范疇，如果有一些相應(yīng)的配合的硬核去做的話效果會更高。
所以如果從整個系統(tǒng)的角度來看，如果有FPGA的資源，有一些針對特定運算加速的資源，對系統(tǒng)來說肯定會更高。所以我們做芯片設(shè)計的時候，今年年底要推出的新一代的Movidius芯片，叫Myriad X，這也是一個融合的架構(gòu)，是異構(gòu)的，里面既有對卷積神經(jīng)網(wǎng)絡(luò)加速的單元，也有一些對圖像編解碼的加速單元，以及圖像處理的加速單元，這樣可以給用戶提供一個完整的算例，來幫助他們實現(xiàn)深度學(xué)習(xí)所需的操作。
相關(guān)文章：
英特爾2020年將推獨立GPU，但CPU霸主研發(fā)高端GPU的歷史有些“辛酸”
英特爾戴金權(quán)：詳解全新大數(shù)據(jù)分析+AI平臺Analytics Zoo | CCF-GAIR 2018
英特爾宣布收購eASIC，進一步增強“結(jié)構(gòu)化ASIC”設(shè)計能力
英特爾陳玉榮：全面解析英特爾人工智能計算平臺 | CCF-GAIR 2018
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
