AIoT 融合落地方興未艾，工業(yè)制造智能轉(zhuǎn)型迫在眉睫。

為了構(gòu)建行業(yè)對(duì) AIoT 產(chǎn)業(yè)的全新認(rèn)知，解析 AIoT 泛產(chǎn)業(yè)的 “云、管、邊、端” 及智能制造產(chǎn)業(yè)的發(fā)展，探討當(dāng)下 AIoT 行業(yè)落地困境及工業(yè)互聯(lián)網(wǎng)發(fā)展思路，2019 年 11 月 22 日，全球 AIoT 產(chǎn)業(yè)· 智能制造峰會(huì)在深圳隆重舉行，本次會(huì)議由雷鋒網(wǎng)主辦，由深圳市軟件行業(yè)協(xié)會(huì)、深圳市大數(shù)據(jù)產(chǎn)業(yè)協(xié)會(huì)、深圳市人工智能學(xué)會(huì)、深圳市人工智能行業(yè)協(xié)會(huì)作為支持單位。

作為雷鋒網(wǎng)精心打造的唯一年度 AIoT 盛會(huì)，峰會(huì)聚焦 AI、IoT、5G、邊緣計(jì)算及其場(chǎng)景應(yīng)用在內(nèi)的關(guān)鍵技術(shù)發(fā)展；聚焦智能家居、智能制造、智慧城市為核心的關(guān)鍵產(chǎn)業(yè)落地，致力于打造探討 AIoT 技術(shù)發(fā)展及產(chǎn)業(yè)落地中關(guān)鍵問題的行業(yè)技術(shù)峰會(huì)。為產(chǎn)學(xué)研思想碰撞、融合應(yīng)用提供一個(gè)前沿陣地，為政企各界專業(yè)人士提供一個(gè)交流互動(dòng)的專業(yè)平臺(tái)。

在上午的「AIoT 技術(shù)變革」論壇上，地平線副總裁兼智能物聯(lián)網(wǎng)芯片方案產(chǎn)品線總經(jīng)理張永謙帶來(lái)了《邊緣 AI 芯片賦能行業(yè)，共建普惠 AI 時(shí)代》的分享。他表示，AIoT設(shè)備數(shù)量的快速增長(zhǎng)背后隱藏著巨大的需求和商業(yè)機(jī)會(huì)。這其中，邊緣產(chǎn)生的數(shù)據(jù)和有限的骨干網(wǎng)的處理能力之間的矛盾愈加凸顯，要解決這個(gè)矛盾一定是云、端、邊緣相結(jié)合。

地平線副總裁兼智能物聯(lián)網(wǎng)芯片方案產(chǎn)品線總經(jīng)理張永謙

在邊緣側(cè)，邊緣AI芯片光有算力還不夠，還要看算力的有效利用率。不僅如此，AI芯片不應(yīng)該只是一個(gè)硬件，而是需要軟硬結(jié)合。具體到AIoT的場(chǎng)景，張永謙認(rèn)為AI的落地面臨多形態(tài)產(chǎn)品、場(chǎng)景效果、快速開發(fā)應(yīng)用、硬件開發(fā)、系統(tǒng)整合5個(gè)挑戰(zhàn)，并且具體介紹了地平線如何一步步拆解解決這些挑戰(zhàn)。

以下為雷鋒網(wǎng)做了不改變?cè)饩庉嬚淼难葜v實(shí)錄：

AI確實(shí)已經(jīng)越來(lái)越多地和我們的生產(chǎn)、生活相結(jié)合，也開始去創(chuàng)造一些真實(shí)的價(jià)值。我今天要和大家分享的是地平線在邊緣側(cè)如何做Al芯片解決方案，以及如何把邊緣側(cè)和云端結(jié)合在一起，讓整個(gè)AI落地。

首先談一下計(jì)算，計(jì)算從中央往邊緣越來(lái)越分散，一開始大家用的是大型機(jī)，然后到PC，每個(gè)家庭一臺(tái)，到了手機(jī)每人一部，到AloT的時(shí)代，終端設(shè)備的智能化的趨勢(shì)越來(lái)越明顯，我們認(rèn)為在不久的將來(lái)智能設(shè)備的數(shù)量可能比全球總?cè)丝跀?shù)量高一個(gè)數(shù)量級(jí)，甚至兩個(gè)數(shù)量級(jí)。這個(gè)過程背后隱藏著巨大的需求和商業(yè)機(jī)會(huì)，這個(gè)也是我們非常感興趣的一個(gè)地方。

5G其實(shí)是為AloT去做準(zhǔn)備的，它可以讓端側(cè)、邊緣側(cè)接入的設(shè)備數(shù)量大大增加，接入的質(zhì)量也大大增加。但5G會(huì)帶來(lái)一個(gè)更大的矛盾，就是在邊緣側(cè)巨大的數(shù)據(jù)每天都在產(chǎn)生，但建設(shè)骨干網(wǎng)和云端，擴(kuò)容和成本都是非常大的挑戰(zhàn)。

也就是說到了5G時(shí)代，邊緣側(cè)產(chǎn)生的數(shù)據(jù)和比較有限的骨干網(wǎng)的處理能力之間的矛盾會(huì)愈加凸顯。要解決這個(gè)矛盾，將來(lái)AI的落地一定是云、端、邊緣相結(jié)合，需要達(dá)到一個(gè)動(dòng)態(tài)的平衡。前端我們必須做智能化的處理，一個(gè)大的架構(gòu)是前端做大量的感知，真正的云端做比較復(fù)雜的認(rèn)知，這其中就形成了一個(gè)動(dòng)態(tài)的平衡，讓整個(gè)網(wǎng)絡(luò)的性價(jià)比達(dá)到最優(yōu)。

邊緣計(jì)算這幾年比較火，因?yàn)樗€有一些別的優(yōu)點(diǎn)，比如在隱私保護(hù)上面，相比把數(shù)據(jù)傳到云端，數(shù)據(jù)留在端上可以被更好地保護(hù)。當(dāng)然邊緣計(jì)算這個(gè)詞也越來(lái)越火，現(xiàn)在跟云計(jì)算并列成為整個(gè)架構(gòu)里面一個(gè)關(guān)鍵的元素。

講到邊緣計(jì)算的時(shí)候不能不提邊緣AI芯片，這幾年國(guó)內(nèi)很多的公司都在提AI芯片，地平線從公司創(chuàng)立之初一直在做這個(gè)事情。從我們的角度看，邊緣AI芯片跟傳統(tǒng)的芯片有一個(gè)很大的不一樣的地方，就是傳統(tǒng)的芯片大家基本都是講PPA，也就是Power功耗、Performance性能，Area芯片面積（成本）。這些要素主宰了摩爾定律在過去二十年到三十年間的快速發(fā)展。

到了AI邊緣側(cè)計(jì)算的時(shí)候，這個(gè)評(píng)估變得很復(fù)雜。首先大家在提AI芯片的時(shí)候會(huì)提我有幾個(gè)T的邊緣算力，但是光有算力不夠，還要看算力的有效利用率。比如你有一個(gè)T的算力，但是你在實(shí)際場(chǎng)景只有30%的有效利用率，意味著70%的成本包括維持芯片正常工作的功耗都被白白浪費(fèi)。

這之上要再看AI芯片的處理場(chǎng)景，針對(duì)這個(gè)場(chǎng)景處理的輸出結(jié)果的有效性指標(biāo)是不是最優(yōu)，也是衡量整個(gè)AI芯片，包括上面算法一個(gè)最重要的指標(biāo)。我們把這幾點(diǎn)結(jié)合在一起，最終才能真正去評(píng)估。

基于上面的分析，地平線2015年成立之初做AI芯片的時(shí)候，就不單純是一個(gè)芯片公司，我們做了大量的軟件工作。我們?cè)谠O(shè)計(jì)芯片的時(shí)候，除了芯片的架構(gòu)，還設(shè)計(jì)了相應(yīng)的指令級(jí)、編譯器以及模型結(jié)構(gòu)。這些其實(shí)都是我們對(duì)于未來(lái)幾年主流邊緣側(cè)、AI場(chǎng)景的一個(gè)預(yù)判。我們?cè)谠O(shè)計(jì)芯片整個(gè)架構(gòu)和模型時(shí)，都會(huì)和這個(gè)預(yù)判緊密結(jié)合，把整個(gè)軟硬件結(jié)合在一起。我們認(rèn)為只有這樣才能滿足邊緣側(cè)對(duì)性價(jià)比、能耗比非?？量痰囊?，才能把邊緣側(cè)AI芯片做好。

在我們看來(lái)，AI芯片不應(yīng)該只是一個(gè)硬件，而是需要軟硬結(jié)合。最好的踐行者就是蘋果，大家用蘋果手機(jī)即使用得很久，也會(huì)覺得非常流暢，因?yàn)樗衍浻布龅梅浅：?。即便蘋果的主頻和純粹的物理計(jì)算力可能比高通要低，但事實(shí)上蘋果手機(jī)運(yùn)行操作系統(tǒng)，工作兩三年以后，它的流暢性和工作性能，要高于同等主頻下面的芯片廠商提供芯片的手機(jī)，這是一個(gè)很好的例子解釋軟硬結(jié)合的威力。

這是我們公司自己做的一個(gè)評(píng)估，在我們公司自主研發(fā)的芯片上面輸入720p的圖象，運(yùn)行一個(gè)人臉識(shí)別的場(chǎng)景的算法。如果我們不考慮軟件、編譯器和架構(gòu)，單楨消耗是141.9 MB per Frame，單楨計(jì)算延遲43.77毫秒，計(jì)算資源利用率57%。我們把編譯器打開之后做優(yōu)化，它單楨的帶寬消耗是大大降低了，計(jì)算的資源利用率可以達(dá)到95%，它跟外面存儲(chǔ)數(shù)據(jù)的交換次數(shù)和時(shí)間大大減少。這個(gè)例子體現(xiàn)了軟硬結(jié)合的威力，這是我們公司成立到現(xiàn)在一直在努力的方向，我們?cè)诘讓淤x能的上面給用戶帶來(lái)的價(jià)值就是軟硬結(jié)合。

我們有信心把摩爾定律延續(xù)下去，傳統(tǒng)的摩爾定律是工藝為主，臺(tái)積電已經(jīng)在籌備3納米的工廠。但是通過軟硬件的結(jié)合，我們可以看到還有很大的發(fā)展空間。

下面講一下地平線，地平線是2015年7月份成立，是中國(guó)第一家軟硬結(jié)合的、真正面向AI做芯片的公司，率先提出了軟硬結(jié)合的BPU架構(gòu)。

2017年12月份，地平線發(fā)布了中國(guó)第一款邊緣AI芯片——旭日一代和征程一代，旭日一代面向AloT，征程一代面向智能駕駛，我們比較榮幸是臺(tái)積電全球第一家流片AI芯片的公司。

2018年，我們的征程芯片登陸美國(guó)頂級(jí)的Robotaxi車隊(duì)。2018年底，旭日一代落地的首年，我們的芯片和解決方案出貨量達(dá)到了六位數(shù)。

今天這個(gè)大會(huì)的主題是“智能制造”，所以這里我就是給大家介紹一下我們面向AloT 的AI芯片，地平線在剛剛結(jié)束的安博會(huì)上發(fā)布了旭日二代，這是面向AloT的邊緣芯片處理器，等效算力是4T。

除了剛剛講到的軟硬結(jié)合的芯片理念之外，我接下來(lái)講一下我們的邊緣AI芯片是如何賦能整個(gè)行業(yè)的。

在我們軟硬結(jié)合的基礎(chǔ)之上，面對(duì)行業(yè)里面非常有能力的客戶，我們會(huì)提供一個(gè)底層的工具鏈，這些客戶都有很好的算法團(tuán)隊(duì)，有非常豐富的行業(yè)里的場(chǎng)景和數(shù)據(jù)，他們可以用我們的芯片和工具鏈，在這之上訓(xùn)練出來(lái)他們自己的模型。

這個(gè)訓(xùn)練區(qū)別于普通的計(jì)算芯片，對(duì)于未來(lái)的主流場(chǎng)景的算法演進(jìn)趨勢(shì)，我們投入力量做了非常大的預(yù)判，在我們的芯片里，我們對(duì)非常多的算法做了進(jìn)一步的加速，這樣，客戶用我們的處理器和工具鏈結(jié)合他們的數(shù)據(jù)做訓(xùn)練的時(shí)候，相當(dāng)于站在我們的肩膀之上。如果是一個(gè)普通的AI處理器，可能需要幾位比較資深的算法工程師，花較長(zhǎng)的時(shí)間進(jìn)行訓(xùn)練，但是在我們這上面需要幾位相對(duì)來(lái)說比較入門的或者不需要那么資深的工程師，同樣可以快速地訓(xùn)練出來(lái)模型。這是對(duì)于很多新的應(yīng)用和分散的邊緣側(cè)的應(yīng)用有好處的事情，能夠大大降低企業(yè)的投入和產(chǎn)品上市的時(shí)間。

2015年到現(xiàn)在四年多的時(shí)間， AloT在整個(gè)邊緣側(cè)落地的局面里存在一個(gè)問題，真正自己有很強(qiáng)AI能力的公司，包括算法能力、數(shù)據(jù)能力，占的比例非常少，可能連1%都不到。

大量的企業(yè)都有著非常豐富的行業(yè)經(jīng)驗(yàn)，可能他們也有些行業(yè)數(shù)據(jù)，但是對(duì)于如何把AI在邊緣側(cè)做好，這個(gè)事情其實(shí)對(duì)他們來(lái)說挑戰(zhàn)非常大。因?yàn)檫@是一個(gè)系統(tǒng)級(jí)的事情，大家可以看到它面臨著非常多的挑戰(zhàn)：

第一是各種形態(tài)的AI產(chǎn)品，比如像攝像頭、智能面板機(jī)、各種形態(tài)的機(jī)器人、智能家電等等。這么多的AI產(chǎn)品形態(tài)，如何能夠把它進(jìn)行產(chǎn)品化，是一個(gè)非常挑戰(zhàn)的過程。

第二是場(chǎng)景下的智能效果，你可以去購(gòu)買一個(gè)AI芯片，再?gòu)哪硞€(gè)算法公司里面找到你想要的算法，之后你要把這么多的東西自己整合在一起，還要考慮輸入的圖象質(zhì)量，真正打造一個(gè)在邊緣側(cè)可以非常好地去做智能感知、分析，解決場(chǎng)景化需求的產(chǎn)品。其實(shí)做出來(lái)一個(gè)demo級(jí)的東西和一個(gè)產(chǎn)品級(jí)真正可用的東西，中間的需要投入的資源差別非常之大。如何能夠把邊緣側(cè)的產(chǎn)品效果、AI的效果做得非常好，不光要有算力，還要把效果做好，也很難。

第三是如何快速開發(fā)上層的智能應(yīng)用。因?yàn)樵谶吘墏?cè)落地的場(chǎng)景的復(fù)雜度，即便有芯片、有算法、有很好的圖象輸入仍然不夠，因?yàn)檎麄€(gè)前端的場(chǎng)景的策略非常復(fù)雜，你今天有一個(gè)基礎(chǔ)的算法，輸出一些結(jié)構(gòu)化的信息，但是這些結(jié)構(gòu)化的信息離你想要的有用信息其實(shí)是往往差得非常遠(yuǎn)，怎樣能夠快速地基于應(yīng)用，把跟應(yīng)用相結(jié)合的有效的軟件開發(fā)出來(lái)，這中間還有一個(gè)很大的鴻溝。而且你每到一個(gè)場(chǎng)景會(huì)發(fā)現(xiàn)，可能策略都不太一樣，這個(gè)時(shí)候怎么樣快速開發(fā)上層的智能應(yīng)用是第三個(gè)挑戰(zhàn)。

第四是硬件的挑戰(zhàn)，因?yàn)槲覀冊(cè)谶@個(gè)過程之中發(fā)現(xiàn)，AI因?yàn)樗歉鷪?chǎng)景打通的，并不是像傳統(tǒng)的產(chǎn)業(yè)鏈分工這樣，做產(chǎn)品的做產(chǎn)品，做硬件的做硬件，然后再賣給那些真正在行業(yè)里面落地的。其實(shí)有非常多的行業(yè)和應(yīng)用里的客戶，他們離場(chǎng)景最近，知道AI怎么用，他們非常想自己擁有一個(gè)智能的產(chǎn)品，而不是再?gòu)哪硞€(gè)第三方采購(gòu)，他希望他可以直接拿到一個(gè)智能化的非常好的產(chǎn)品，但是硬件開發(fā)對(duì)他們來(lái)說其實(shí)是非常頭疼的，因?yàn)榇罅康墓驹瓉?lái)從來(lái)沒有做過硬件的開發(fā)。

第五是系統(tǒng)級(jí)的整合。一個(gè)做AI芯片的公司，即便像地平線這樣的公司軟硬結(jié)合做得非常好，還提供工具鏈，但是會(huì)發(fā)現(xiàn)真正賦能行業(yè)的時(shí)候99%的用戶用不起來(lái)，太復(fù)雜了，產(chǎn)業(yè)的分工還沒有形成，產(chǎn)業(yè)鏈沒有變得那么成熟，需要我們多做一步去賦能，去克服這些挑戰(zhàn)。

后面我會(huì)詳細(xì)介紹一下，我們賦能的方式，就是針對(duì)邊緣側(cè)的場(chǎng)景做芯片級(jí)的解決方案，進(jìn)一步地賦能我們客戶。

AloT是一個(gè)很大的概念，我們做解決方案的時(shí)候從上面的挑戰(zhàn)一步步拆解，第一是不同形態(tài)的AI產(chǎn)品，這里面主要是做三類，第一類是攝像頭，大家都知道攝像頭芯片覆蓋的場(chǎng)景非常廣。第二是帶屏幕智能產(chǎn)品，可以用來(lái)交互的面板機(jī)的產(chǎn)品，主要用在一些近距離的交互上。第三種邊緣側(cè)的計(jì)算盒子的解決方案，比較靈活地對(duì)接各種前端的感知的數(shù)據(jù)，這是目前基于地平線第一代旭日芯片和第二代旭日芯片的邊緣側(cè)AI解決方案。

首先說一下大家最關(guān)心的智能，我們有一個(gè)全棧的智能算法的能力，我列出來(lái)最主要針對(duì)人的智能化，因?yàn)槿说闹悄芑袌?chǎng)目前看起來(lái)是最先落地的一個(gè)市場(chǎng)。一級(jí)結(jié)構(gòu)化，對(duì)一些原子的智能檢測(cè)，到二級(jí)的結(jié)構(gòu)化，可以做一些識(shí)別，包括做屬性的分析和語(yǔ)音，然后再到最外層的三級(jí)結(jié)構(gòu)化，對(duì)被分析目標(biāo)的時(shí)間和空間的運(yùn)動(dòng)做進(jìn)一步的語(yǔ)義級(jí)的分析，像Re  ID，基于旭日芯片，地平線有全棧的能力賦能我們的客戶。這是對(duì)密集人群3D的建模，包括實(shí)時(shí)的跟蹤，包括五個(gè)關(guān)鍵點(diǎn)的分析，這樣能夠?yàn)闀r(shí)空里面的追蹤、Re  ID包括行為分析打下一個(gè)非常好的邊緣側(cè)的基礎(chǔ)。

所有的密集人群里面的時(shí)空分析，其實(shí)都是在2瓦左右的邊緣側(cè)的一個(gè)小的AI芯片上完成的，它的性價(jià)比比傳統(tǒng)的服務(wù)器大大提高，能耗也大大降低。

有了好的算法之后還需要有好的圖象輸入，這個(gè)圖象輸入也是一個(gè)技術(shù)活，不是選定了某一個(gè)芯片里的某一個(gè)ISP就好了，對(duì)于不同的場(chǎng)景要做大量的微觀的調(diào)試，通過算法克服場(chǎng)景里圖象輸入帶來(lái)的一些干擾，比如在室外布了一個(gè)智能感知的設(shè)備，一天中太陽(yáng)的角度從早晨到中午、到晚上，冬天到夏天，強(qiáng)光、暗光，然后背光、逆光等等，在不停地變化，怎么讓這個(gè)設(shè)備在一天中能夠自動(dòng)地去獲取最好的圖象效果，就要做非常多的圖象的調(diào)優(yōu)。

下面談一下工程，怎么樣在邊緣側(cè)和端側(cè)快速開發(fā)不同的智能產(chǎn)品。我們?cè)谲浖軜?gòu)上做了統(tǒng)一的規(guī)劃，讓我們快速推出這些方案，也讓客戶在這個(gè)軟硬架構(gòu)上面可以快速地基于我們提供的底層做上層的應(yīng)用開發(fā)。我們把這些智能能力都封裝好，把整個(gè)硬件，包括OTA升級(jí)和云對(duì)接的SDK這些工作在我們的方案里面打包做好，用戶可以很快的在這上面開發(fā)他們的應(yīng)用。

我們除了把與我們芯片周邊相關(guān)的做了完整的算法設(shè)計(jì)，去確保圖象識(shí)別的效果，我們還對(duì)智能攝像頭的模組也進(jìn)行了設(shè)計(jì)，這樣客戶可以直接用已經(jīng)調(diào)試好的整套硬件的核心部分，再加上外圍自己擴(kuò)展的部分，快速完成硬件的設(shè)計(jì)。

真正去布到場(chǎng)景里去的時(shí)候，即便把剛才那些都做了，效果可能還會(huì)受一些非常小的因素帶來(lái)的很大影響，比如在低照的情況下如何補(bǔ)光，又比如有的時(shí)候通過可見光做不好，要補(bǔ)其他的光線，像紅外光。

補(bǔ)光燈的位置、功率多少也會(huì)直接影響到圖象輸入，以及最終的效果。整個(gè)這些參考設(shè)計(jì)，我們都會(huì)在里面做好，讓客戶真的可以快速地完成產(chǎn)品化的過程。

除了這些，我們還會(huì)幫助我們的客戶在一些比較關(guān)鍵的行業(yè)去過行業(yè)檢測(cè)。我們推出第一代的AI芯片之后逐步摸索，慢慢給廣大的客戶去賦能，梳理清楚要做的事情及思路。目前我們已經(jīng)推出了三個(gè)系列的解決方案，最上面是針對(duì)智能面板機(jī)的解決方案，另外是針對(duì)智能IPC的方案，還有像通行、考勤、可視對(duì)講等，這里面主要針對(duì)人臉的智能化。攝像頭里面人臉的識(shí)別現(xiàn)在用得最多，還包括在商業(yè)場(chǎng)景用的客流分析，以及在一些相對(duì)要求復(fù)雜的場(chǎng)景里做人員的結(jié)構(gòu)化分析，以及行為分析。這些也都同樣可以沉淀在我們邊緣側(cè)的分析單元里。

最后我想總結(jié)一下：地平線是專注于邊緣AI芯片及解決方案的公司，我們?cè)诘讓油ㄟ^軟硬結(jié)合，以及整套的解決方案去賦能，目前在行業(yè)里面像我們能夠有這么大的投入、有這么全面能力的公司其實(shí)非常少，因?yàn)檫@個(gè)路確實(shí)比較艱苦，又要做芯片、又要做算法、又要做方案。

我們的服務(wù)理念是堅(jiān)決不做行業(yè)應(yīng)用，我們不會(huì)和我們的客戶去競(jìng)爭(zhēng)，也不會(huì)因?yàn)榭吹侥骋粋€(gè)行業(yè)在大爆發(fā)，就直接沖到最下游去，既做產(chǎn)品又做項(xiàng)目，然后把我們合作伙伴的事都給做了。我們還是恪守我們的本份，做底層的技術(shù)賦能。

我們最終的目標(biāo)是希望能夠讓AI更加普惠，不是只在少數(shù)有實(shí)力的組織才能去玩的東西，而是通過我們的軟硬結(jié)合和解決方案，能夠讓AI走到行業(yè)客戶的面前，客戶在上面再把整個(gè)行業(yè)的應(yīng)用進(jìn)行更好的開發(fā)，然后在邊緣側(cè)形成一個(gè)非常好的智能感知的輸入和篩選。在邊緣側(cè)的AI再和云端的AI相結(jié)合，最后讓這個(gè)技術(shù)整個(gè)在行業(yè)里面真正地落地。

關(guān)注「雷鋒網(wǎng)」公眾號(hào)，發(fā)關(guān)鍵詞「2019 AIoT峰會(huì)—地平線」，獲取本文精彩演講PPT。

相關(guān)文章：

大咖云集，觀點(diǎn)碰撞！《全球 AIoT 產(chǎn)業(yè)· 智能制造峰會(huì)》圓滿落幕

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。