NVIDIA中國(guó)區(qū)高級(jí)技術(shù)經(jīng)理李銘

在人工智能大熱的當(dāng)下，擁有強(qiáng)大計(jì)算能力的NVIDIA走上了發(fā)展的快車(chē)道，公司Slogan也變成了“引領(lǐng)人工智能計(jì)算”。

憑借著在GPU領(lǐng)域的深耕，NVIDIA在深度學(xué)習(xí)和人工智能領(lǐng)域推出了諸多產(chǎn)品，各類(lèi)超級(jí)計(jì)算平臺(tái)和數(shù)據(jù)處理加速器赫然在列，而Jetson平臺(tái)便是NVIDIA諸多此類(lèi)產(chǎn)品中的一員。

具體來(lái)說(shuō)，Jetson是NVIDIA推出的嵌入式人工智能超級(jí)計(jì)算平臺(tái)，可以部署在諸多終端（可能是攝像頭、無(wú)人機(jī)、機(jī)器人和無(wú)人小車(chē)等）之上，令其具備人工智能計(jì)算能力。而“嵌入式”則可以很好地解決這些終端要具備人工智能計(jì)算能力所要面臨的帶寬不足、延遲等問(wèn)題。

被寄予厚望的TX2

今年3月8日，Jetson家族的新一代產(chǎn)品Jetson TX2正式發(fā)布，也標(biāo)志著NVIDIA在終端人工智能領(lǐng)域的布局又往前邁進(jìn)了一步。

Jetson TX2

據(jù)雷鋒網(wǎng)了解，Jetson平臺(tái)此前已有TK1和TX1兩代產(chǎn)品，而且還積累了諸多客戶(hù)以及應(yīng)用案例，其中包括思科的電視電話(huà)會(huì)議系統(tǒng)（人臉識(shí)別、智能識(shí)別）、法拉赫的工廠自動(dòng)化（零部件的分揀）、豐田的服務(wù)類(lèi)機(jī)器人等。而在國(guó)內(nèi)，也不乏Jetson平臺(tái)的使用者，其中比較知名的有安防領(lǐng)域的企業(yè)?？低暎鋽z像頭產(chǎn)品中便采用了TX1，此外，京東的送貨無(wú)人車(chē)也是TX1的客戶(hù)。可見(jiàn)，終端人工智能已經(jīng)深入到了人類(lèi)日常生活的諸多方面。

事實(shí)上，在TX2發(fā)布前，NVIDIA中國(guó)區(qū)高級(jí)技術(shù)經(jīng)理李銘便闡述了這款新產(chǎn)品的性能細(xì)節(jié)。當(dāng)時(shí)，雷鋒網(wǎng)獲知，相比前一代，TX2的GPU和CPU都進(jìn)行了升級(jí)，內(nèi)存增加、存儲(chǔ)增加，支持Wifi和藍(lán)牙，編解碼支持H.265，體型同樣小巧；套件方面有USB接口、SD卡接口、HDMI接口等，連上鼠標(biāo)、鍵盤(pán)以及顯示器，實(shí)際就是一臺(tái)電腦，可以進(jìn)行人工智能開(kāi)發(fā)或日常使用。

Jetson TX1與Jetson TX2的性能對(duì)比

另?yè)?jù)NVIDIA官方介紹，TX2所提供的性能是之前版本的2倍，也就是說(shuō)能夠以2倍以上的功效運(yùn)行，且功率低于7.5瓦。這樣的性能可讓TX2在終端應(yīng)用上運(yùn)行更龐大、更深度的神經(jīng)網(wǎng)絡(luò)，讓終端設(shè)備更加智能化，同時(shí)在執(zhí)行圖像分類(lèi)、導(dǎo)航和語(yǔ)音識(shí)別等任務(wù)時(shí)在更短的時(shí)間內(nèi)達(dá)到更高的精度。

此外，為了方便開(kāi)發(fā)者基于TX2平臺(tái)進(jìn)行開(kāi)發(fā)，NVIDIA還配套推出了JetPack 3.0的軟件開(kāi)發(fā)包，配備的開(kāi)發(fā)工具非常齊全，大大降低了開(kāi)發(fā)者的準(zhǔn)入門(mén)檻。

正因?yàn)門(mén)X2的性能提升，目前Jetson的很多客戶(hù)都在進(jìn)行平臺(tái)遷移。李銘告訴雷鋒網(wǎng)，目前TX2在向上以及向下兼容兩方面都做得比較好，所以以往使用TX1的用戶(hù)轉(zhuǎn)移到TX2上完全沒(méi)有轉(zhuǎn)移成本。

至此，關(guān)于TX2的各類(lèi)優(yōu)勢(shì)已經(jīng)非常明晰：無(wú)論是性能上的成倍增長(zhǎng)、還是開(kāi)發(fā)門(mén)檻的降低、亦或是無(wú)需平臺(tái)轉(zhuǎn)移成本。NVIDIA對(duì)這款產(chǎn)品的市場(chǎng)表現(xiàn)同樣寄予厚望。

為了讓這款產(chǎn)品更加具有說(shuō)服力，NVIDIA官方在TX2發(fā)布一個(gè)多月后，再一次舉辦了一場(chǎng)產(chǎn)品解讀活動(dòng)，詳解了一些Demo，還特地請(qǐng)來(lái)了TX2的代表性客戶(hù)?？低暤南嚓P(guān)負(fù)責(zé)人以及資深技術(shù)專(zhuān)家分享其與Jetson平臺(tái)結(jié)緣的故事以及其在技術(shù)上的考量。

在展示Demo前，李銘提到了NVIDIA的“AI City”（人工智能城市）構(gòu)想。在NVIDIA眼中，這個(gè)世界每時(shí)每刻都會(huì)產(chǎn)生大量的視頻流，這些視頻在2020年會(huì)出自全球超過(guò)10億個(gè)攝像頭。面對(duì)海量的數(shù)據(jù)，只有采用深度學(xué)習(xí)相關(guān)的技術(shù)才能加以理解和分析——把像素級(jí)的信息直接轉(zhuǎn)化成一種語(yǔ)義，或者說(shuō)是一種對(duì)場(chǎng)景的理解。這些場(chǎng)景包括但不限于智慧交通，未來(lái)還有更多的應(yīng)用場(chǎng)景，最后將覆蓋整個(gè)城市，形成所謂的“AI City”。

具體怎么做？李銘向雷鋒網(wǎng)新智駕展示了兩段視頻Demo。

一段是在美國(guó)金門(mén)大橋上行車(chē)的視頻，當(dāng)4K的視頻流傳輸進(jìn)搭載Jetson TX2的工作站后，人工智能終端可以實(shí)時(shí)解讀視頻信息，識(shí)別車(chē)輛、行人、路牌等信息，甚至還能識(shí)別出車(chē)輛的顏色和品牌型號(hào)以及行人的性別、年齡以及手上是否提有物品等信息。

整個(gè)數(shù)據(jù)處理過(guò)程遵循：視頻流輸入－視頻解碼－使用人工智能的手段識(shí)別目標(biāo)（如車(chē)牌、人臉等）并框選－編碼、完成本地處理－存儲(chǔ)到云端或者顯示在監(jiān)控屏幕上。

另一段則是美國(guó)警察在停車(chē)場(chǎng)巡邏的視頻，搭載了TX2的攝像頭終端可以監(jiān)測(cè)記錄車(chē)輛、人口的各類(lèi)細(xì)節(jié)信息，如果在停車(chē)場(chǎng)發(fā)現(xiàn)可疑的車(chē)輛和人口，那么系統(tǒng)會(huì)自動(dòng)與內(nèi)部構(gòu)建的嫌疑模型比對(duì)，警察很快就可以鎖定有問(wèn)題的對(duì)象。這樣高效率處理視頻信息的手段，是安防和公安領(lǐng)域的福音。

李銘表示，以上“AI City”相關(guān)Demo的源代碼和Pipeline都會(huì)打包到Jetpack 3.0中供使用者參考。

為什么選擇TX2？

此次，NVIDIA請(qǐng)來(lái)了海康威視研究院高性能計(jì)算部總監(jiān)王鵬和以及資深技術(shù)專(zhuān)家蔣超為Jetson TX2站臺(tái)。

?？低暿前卜李I(lǐng)域全球領(lǐng)先的解決方案提供商。他們?cè)谌ツ昱cNVIDIA共同發(fā)布了基于深度學(xué)習(xí)技術(shù)的從后端到前端的全系列安防產(chǎn)品。其雙目智能人臉攝像機(jī)“深眸”（前端）與視頻云結(jié)構(gòu)化服務(wù)器“獵鷹”（后端）都采用了NVIDIA的技術(shù)解決方案。

?？低曆芯吭焊咝阅苡?jì)算部總監(jiān)王鵬

王鵬表示，此前選擇與NVIDIA合作的原因就是看中其在GPU以及深度學(xué)習(xí)方面能力，而且這些年NVIDIA在這方面的能力提升也非常迅猛。

王鵬告訴雷鋒網(wǎng)，“我們這幾年的安防發(fā)展目標(biāo)從原來(lái)的‘看得見(jiàn)’轉(zhuǎn)向了‘看得清’。而最近幾年人工智能的火熱，也讓我們有了新方向，就是‘看得懂’”。“看得懂”其實(shí)與NVIDIA“AI City”的構(gòu)想不謀而合，所以其中對(duì)于計(jì)算能力和海量視頻信息處理能力的要求也拔高了，因此Jetson平臺(tái)對(duì)于?？低晛?lái)說(shuō)，是非常合適的終端智能化選擇。

而在實(shí)際效果上，王鵬稱(chēng)，采用了NVIDIA的一套技術(shù)解決方案后，“我們引以為傲的產(chǎn)品——1U智能處理服務(wù)器“刀鋒”的計(jì)算性能達(dá)到了16T，在1U的空間里它的功耗只有300瓦。而通用的服務(wù)器要達(dá)到14T左右的性能，它的功耗要達(dá)到8000瓦以上……”。所以無(wú)論從空間還是電力方面，采用這種高性能芯片，對(duì)?？低曊麄€(gè)后端部署的成本實(shí)施都有非常大的好處。

“NVIDIA的高性能深度學(xué)習(xí)引擎以及端到端的解決方案，使得我們能以最快的速度、在最短的時(shí)間內(nèi)把研究成果在產(chǎn)品上落地”，王鵬總結(jié)道。

資深技術(shù)專(zhuān)家蔣超則將自家的室內(nèi)機(jī)器人帶到了現(xiàn)場(chǎng)。在他看來(lái)，當(dāng)一個(gè)機(jī)器人進(jìn)入家庭或者商用場(chǎng)合時(shí)，它必須解決的一個(gè)問(wèn)題是“怎么樣走路”。這個(gè)問(wèn)題又衍生出三個(gè)核心子問(wèn)題：機(jī)器人是否知道自身所處的空間位置？機(jī)器人是否知道路在哪里？機(jī)器人能否接收使用者的指令？

資深技術(shù)專(zhuān)家蔣超（來(lái)自獵戶(hù)星空）

所以，蔣超認(rèn)為，vSLAM（visual Simultaneous Localization and Mapping，基于視覺(jué)的即時(shí)定位與地圖構(gòu)建）其實(shí)是整個(gè)機(jī)器人技術(shù)最底層、最核心的部分。

最終，當(dāng)機(jī)器人走起來(lái)之后，各類(lèi)傳感器會(huì)產(chǎn)生相關(guān)信息，還有控制指令不斷發(fā)送給機(jī)器人，意味著將形成一個(gè)非常復(fù)雜的操控網(wǎng)絡(luò)。在真實(shí)的商業(yè)場(chǎng)景中，機(jī)器人必須當(dāng)下就能工作。

這里面就產(chǎn)生了矛盾——如果采用“云計(jì)算”技術(shù)或者把數(shù)據(jù)傳回去計(jì)算再返回的話(huà)，以目前的網(wǎng)絡(luò)狀況來(lái)說(shuō)，是無(wú)法達(dá)到實(shí)時(shí)性要求的。

因此這些復(fù)雜的計(jì)算必須在終端上完成，“我們必須在端上、離用戶(hù)最近的地方解決問(wèn)題，所以我們就需要非常強(qiáng)大的計(jì)算平臺(tái)”，蔣超說(shuō)。

NVIDIA的TX1則提供了很好的計(jì)算能力，但計(jì)算能力總是不夠用的，當(dāng)蔣超去做應(yīng)用的時(shí)候，還是發(fā)現(xiàn)一些局限?！八援?dāng)我看到TX2的時(shí)候，我就非常興奮，因?yàn)門(mén)X2整體的性能比TX1整整提高的一倍，所以就有余下一些空間，讓我們做更多的事情。”而所謂的“更多的事情”則包括了“語(yǔ)義地圖”這樣的應(yīng)用。

蔣超還向雷鋒網(wǎng)提到，TX2能夠支持其產(chǎn)品研發(fā)的不僅僅是硬件本身，還有非常好的軟件——VisionWorks（包含在Jetpack 3.0當(dāng)中），該軟件其實(shí)是在OpenVX這個(gè)標(biāo)準(zhǔn)上實(shí)現(xiàn)了很多機(jī)器視覺(jué)的底層操作，還提供編程框架，“我們可以用這些東西去進(jìn)行快速開(kāi)發(fā)。”

此外，TX2還可以用在SLAM的后端優(yōu)化上，因?yàn)樵贑PU上運(yùn)行的一些優(yōu)化工具，性能會(huì)有非常大的限制。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。