1
本文作者: 趙青暉 | 2017-11-02 21:39 |
人工智能的出現(xiàn),讓所有的廠商都站在了同一起跑線,對于傳統(tǒng)芯片企業(yè)來說是一個重新起跑的機會。
10月31日,杭州國芯(下簡稱「國芯」)攜手合作伙伴Rokid、思必馳、Cadence在深圳華僑城洲際大酒店舉辦了一場發(fā)布會,發(fā)布了一款人工智能芯片「GX8010」,發(fā)布會現(xiàn)場,國芯總經(jīng)理兼CEO黃智杰博士在臺上講出了開篇的那句話。
人工智能大熱是近兩年才開始的事,而國芯在2001年就成立了,在沒有進入人工智能領(lǐng)域之前,該公司主要專注于數(shù)字電視芯片和機頂盒芯片。
從傳統(tǒng)的數(shù)字電視芯片、機頂盒芯片到AI芯片,看似跨度奇大,實際上其中還是有些關(guān)聯(lián)的,比如電視機頂盒芯片處理圖像和聲音的能力,正是當(dāng)下人工智能領(lǐng)域極力想要攻克的。
2016年,國芯成立了AI事業(yè)部,想要做一款面向物聯(lián)網(wǎng)市場的專用AI芯片,能夠在本地離線、低功耗、可移動的工作,由此才誕生了「GX8010」。
「邊緣計算」是國芯發(fā)布會上重點提及的一個詞,按照當(dāng)前AI行業(yè)的說法:
邊緣計算指在靠近物或數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣側(cè),融合網(wǎng)絡(luò)、計算、存儲、應(yīng)用核心能力的開放平臺,就近提供邊緣智能服務(wù),滿足行業(yè)數(shù)字化在敏捷連接、實時業(yè)務(wù)、數(shù)據(jù)優(yōu)化、應(yīng)用智能、安全與隱私保護等方面的關(guān)鍵需求。
這看似生僻的「邊緣計算」,其實并不「邊緣」,且意義重大,邊緣計算和云計算有些類似,都是處理大數(shù)據(jù)的計算運行方式。但不同的是,這一次,數(shù)據(jù)不用再傳到遙遠的云端,在邊緣側(cè)就能解決,更適合實時的數(shù)據(jù)分析和智能化處理,也更加高效而且安全。
那么為什么要重點提「邊緣計算」,更簡潔的來說,邊緣在一定程度上代表了「終端」,這其中有個AI發(fā)展的邏輯,就是終端和云端的需求不盡相同。
目前深度學(xué)習(xí)對于計算力有著很高的要求,目前業(yè)界更多的是將多數(shù)計算力放在云端處理,云端設(shè)備不會考慮服務(wù)器大小、功耗大小這些問題,成本也不是首要的,但是,世界不只是云端組成,還有很多很多的終端,比如手機、智能音箱、智能設(shè)備等等,當(dāng)把AI技術(shù)應(yīng)受到這些售價親民的大眾性設(shè)備終端時,云端沒有考慮在內(nèi)的細節(jié)就都成了問題,物聯(lián)網(wǎng)終端要考慮帶寬、功耗、延時等多個方面,這些就要靠終端芯片來解決。
AI芯片里到底有什么,它和傳統(tǒng)芯片有何差別,以及各種在物聯(lián)網(wǎng)上部署人工智能的難點和痛點到底是什么?
黃智杰在發(fā)布會上講到了這些問題,在其中提出了三個痛點并給出了解決方案。
本地神經(jīng)絡(luò)計算問題
目前來說,物聯(lián)網(wǎng)設(shè)備中內(nèi)存帶寬普遍小,因此國芯專門設(shè)計了神經(jīng)網(wǎng)絡(luò)壓縮引擎 NCompressor,能利用神經(jīng)網(wǎng)絡(luò)中的數(shù)據(jù)稀疏特性,壓縮計算權(quán)重,可實現(xiàn)6~10倍的壓縮效果,神經(jīng)網(wǎng)絡(luò)經(jīng)過壓縮后,需要的內(nèi)存容量和帶寬大幅減少,同時運算的速度也得到了提高。
此外,針對壓縮,國芯還提供了編譯工具,可以一鍵實現(xiàn)模型的量化壓縮,然后通過芯片中的硬件引擎解壓,無需重訓(xùn)練和額外處理,在芯片架構(gòu)、編譯工具、和編譯壓縮工具一起,國芯還發(fā)布了全套神經(jīng)網(wǎng)絡(luò)開發(fā)SDK,只需要簡單三步,就能完成模型從服務(wù)器到芯片的部署。
考慮到物聯(lián)網(wǎng)應(yīng)用中的成本和功耗因素,這一代的gxNPU中并沒有堆砌非常多的MAC陣列,而是選擇了64x64的配置。國芯方面表示,在典型應(yīng)用的性能評測中,gxNPU@200MHz仍然比樹莓派中的多核CPU@1GHz,快了近30倍,能效提升100倍以上。
AI交互系統(tǒng)復(fù)雜,成本高
人工智能芯片如果想要真正的落地,光有NPU還是遠遠不夠的,因為整個AI交互是一個非常復(fù)雜的過程,除了神經(jīng)網(wǎng)絡(luò)計算還包括傳感器接入,信號處理,檢測識別,以及軟件層面的決策和反饋等。環(huán)節(jié)眾多,每一處需要的算法和計算特性還不一樣。
以智能語音交互為例,當(dāng)前語音識別的巨大挑戰(zhàn)仍在前端的語音降噪,為了解決噪聲和有效語音分離問題,業(yè)內(nèi)引入了麥克風(fēng)陣列,利用空間信息進行降噪濾波。多個麥克風(fēng)的引入首先對硬件上的接口就提出了要求,一些傳統(tǒng)芯片沒有這么多接口只能通過其它器件來擴展。同時多路信號的接入,也使得前端語音處理計算量大增,傳統(tǒng)芯片中大家用CPU軟解已是十分吃力。
為了解決這些問題,國芯在芯片中集成了Cadence Tensilica最高階的語音DSP Hifi-4,據(jù)雷鋒網(wǎng)了解,Cadence Tensilica HiFi DSP系列是全球使用最廣泛的音頻、聲音、語音處理器,DSP Hifi-4專門為智能語音而設(shè)計,可以高效地進行各種語音信號處理計算。同時GX8010芯片中支持8通道麥克風(fēng)接口,不僅支持PDM和I2S數(shù)字接口,還內(nèi)置了8路ADC直接支持模擬麥克風(fēng)。
在語音算法方面,國芯也選擇了國內(nèi)知名語音AI公司Rokid和思必馳作為合作伙伴,將他們的算法移植進來,合作推出低成本、低功耗的整體語音解決方案。
除了語音系統(tǒng)外,GX8010還構(gòu)建了視覺系統(tǒng),支持1080P攝像頭輸入,圖像預(yù)處理,MJPEG編碼等模塊。語音和圖像的信號處理完后,都送到中央的決策和應(yīng)用系統(tǒng)進行業(yè)務(wù)和應(yīng)用處理。
功耗大
物聯(lián)網(wǎng)產(chǎn)品的一大應(yīng)用難點在于體積較小、場景多樣,很多時候需要電池供電,這便對產(chǎn)品的功耗提出了較高的要求。
針對這一難題,國芯也給出了他們的解決方案。
在動態(tài)功耗上,芯片充分利用多核異構(gòu)的優(yōu)勢,合理安排每個模塊的工作頻率和啟停時機,可以做到按需使用、用完即停的效果。
據(jù)國芯方面介紹:
在典型的語音交互中,GX8010只需要100-200MHz即可完成離線語音識別,DSP工作在300-400MHz即可實現(xiàn)多麥克風(fēng)陣列處理,CPU更是可以根據(jù)系統(tǒng)負荷進行動態(tài)調(diào)整。這種方案讓芯片在高效運轉(zhuǎn)的同時,又能保持非常低的功耗。據(jù)測試,在離線語音交互的場景下全速運行,GX8010的功耗可以做到0.7W以內(nèi)(包括DRAM)。
而關(guān)于待機歡迎問題,國芯做出了「多級喚醒機制」的方案,可以根據(jù)是否有聲音、是否有人聲,是否是關(guān)鍵詞這多個等級來做硬件劃分,逐級喚醒系統(tǒng)。這種逐級喚醒的機制,既保證了語音助手能實時響應(yīng)指令,又能大幅延長設(shè)備的續(xù)航時間。據(jù)測試,GX8010可以在0.05W的待機功耗下實現(xiàn)語音喚醒。
AI 終端芯片滿足了終端設(shè)備的需求,但是僅僅是芯片亦或技術(shù)并不是大眾的最終需求,AI技術(shù)只有落地才能惠及用戶。在這點上,國芯選擇了Rokid和思必馳兩家合作,借力智能音箱、消費機器人等物聯(lián)網(wǎng)產(chǎn)品進行AI 落地。
在講述為何選擇合作伙伴時,黃智杰也談到,此舉是希望能夠滿足不同設(shè)備的需求,讓需求商能夠找到更合適的方案,一個成熟的芯片就應(yīng)該是多方共同努力的結(jié)果。
Rokid 創(chuàng)始人Misa在群訪時也表示:就像我們也不會自己做芯片一樣,國芯不需要把所有的技術(shù)都包攬。
在現(xiàn)場,思必馳VP趙恒藝也講到:
如果要完成一個很好的語音交互,就需要把整個端到端的閉環(huán)打通。但是,端到端的閉環(huán)是不是完全由一個公司來做成的?我不認(rèn)為是這樣的,任何一個行業(yè)成熟的標(biāo)志,一定是非常多的玩家一起參與進來,然后去推動這個行業(yè)向前發(fā)展。
目前市面上已經(jīng)有很多包括巨頭在內(nèi)的廠商都推出了自己的AI芯片,算是在短時間內(nèi)掀起了一股AI芯片的小熱潮,從現(xiàn)在的發(fā)展趨勢來看,智能設(shè)備對AI芯片的需求也在不斷擴大,未來還會出現(xiàn)更多的AI芯片廠商和研發(fā)團隊。而相對于目前市場上從「單一功能芯片」入手的團隊,國芯直接選擇了語音和視覺的全能芯片,這也得益于此前他們在傳統(tǒng)行業(yè)的積累。
未來AI芯片要進入更多的終端設(shè)備、應(yīng)用場景,在這個過程中,也需要更多像國芯這樣從「傳統(tǒng)芯片」加入的AI玩家一起努力,從底層推動整個人工智能行業(yè)的發(fā)展,反而言之,就如黃智杰所說,人工智能帶來了新的起跑線,給了傳統(tǒng)芯片廠商重新起航的機會。
關(guān)注雷鋒網(wǎng)旗下公眾號「新智造」,跟雷鋒網(wǎng)一起讀懂智能&未來
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。