今年3月份，雷鋒網(wǎng)《舍棄馮諾依曼架構(gòu)突破內(nèi)存墻瓶頸的AI芯片，即將轟動(dòng)市場(chǎng)？》一文介紹了解決AI芯片內(nèi)存墻挑戰(zhàn)的多種路徑以及探境科技采用的創(chuàng)新方法。距離文章發(fā)布不到十個(gè)月之后，也是探境首款A(yù)I語(yǔ)音芯片量產(chǎn)不到一年之后，探境科技CEO魯勇本周宣布探境的語(yǔ)音識(shí)別方案實(shí)現(xiàn)百萬(wàn)級(jí)出貨。

百萬(wàn)級(jí)出貨，只是衡量一款使用成熟制程工藝成功的最小出貨量級(jí)，但對(duì)于AI芯片來(lái)說(shuō)卻意義重大。此前我們已經(jīng)多次強(qiáng)調(diào)，對(duì)于AI芯片初創(chuàng)公司而言，設(shè)計(jì)出芯片只是成功的開(kāi)始，能否大規(guī)模落地才更為關(guān)鍵。

如今，無(wú)論是巨頭還是初創(chuàng)公司，大都為AI芯片難落地的苦惱。顯然，探境科技量產(chǎn)不到一年的音旋風(fēng)（Voitist）611 AI語(yǔ)音芯片出貨就達(dá)百萬(wàn)級(jí)值得關(guān)注，他們?nèi)〉眠@一成績(jī)的策略和方法或許也值得參考和借鑒。

 探境科技CEO魯勇

推翻馮諾依曼架構(gòu)

3月份的文章已經(jīng)介紹了探境科技設(shè)計(jì)出的非馮諾依曼架構(gòu)的計(jì)算架構(gòu)——存儲(chǔ)構(gòu)SFA（Storage First Architecture）。SFA架構(gòu)解決內(nèi)存墻挑戰(zhàn)的方法比較獨(dú)特，以存儲(chǔ)調(diào)度為核心的計(jì)算架構(gòu)，數(shù)據(jù)在存儲(chǔ)之間的搬移過(guò)程之中就完成了計(jì)算，計(jì)算對(duì)于數(shù)據(jù)來(lái)說(shuō)只是一種演變。

當(dāng)時(shí)，魯勇對(duì)于SFA架構(gòu)進(jìn)一步的解釋是，存儲(chǔ)是我們SFA架構(gòu)優(yōu)先的出發(fā)點(diǎn)，去考慮數(shù)據(jù)在搬移過(guò)程中做計(jì)算，也就是由數(shù)據(jù)帶動(dòng)計(jì)算而非由算子帶動(dòng)數(shù)據(jù)。與通常計(jì)算的先有計(jì)算指令然后提供數(shù)據(jù)相反，SFA架構(gòu)是先有數(shù)據(jù)，然后再把算子交給它。

探境科技SFA架構(gòu)

由于沒(méi)有詳盡的說(shuō)明，SFA也有被誤解為最近幾年討論很多的存內(nèi)計(jì)算（In-Memory Computing），魯勇近日再次接受雷鋒網(wǎng)采訪時(shí)首先明確，SFA不是存內(nèi)計(jì)算。我們說(shuō)SFA不是馮諾依曼架構(gòu)，指的是SFA不是以計(jì)算帶動(dòng)存儲(chǔ)。不過(guò)，SFA架構(gòu)采用的是標(biāo)準(zhǔn)單元庫(kù)設(shè)計(jì)，沒(méi)有改變底層的工藝。

SFA架構(gòu)解決內(nèi)存墻挑戰(zhàn)的核心是，既然深度學(xué)習(xí)算法需要的卷積運(yùn)算的乘法計(jì)算次數(shù)不能減少，那就想辦法把數(shù)據(jù)在存儲(chǔ)器和運(yùn)算單元之間的搬運(yùn)次數(shù)降低，達(dá)到提升算力、降低功耗和解決內(nèi)存帶寬限制的目的。

“SFA架構(gòu)實(shí)現(xiàn)的方法是通過(guò)硬件、架構(gòu)調(diào)度、數(shù)據(jù)調(diào)度管理等創(chuàng)新。實(shí)驗(yàn)數(shù)據(jù)表明，SFA架構(gòu)所采用的各種微觀和宏觀調(diào)度算法，比較’類(lèi)CPU架構(gòu)‘采用的基于總線和指令集的映射方法，在近似存儲(chǔ)量、近似算力、近似外部存儲(chǔ)帶寬、近似功耗約束的前提下，可以獲得8~12倍的利用率收益?！濒斢卤硎?。

除了高能效比，SFA架構(gòu)還帶來(lái)了通用和易用的優(yōu)勢(shì)。魯勇說(shuō)：“我們的芯片是首款通用型AI芯片，可以支持所有已知的神經(jīng)網(wǎng)絡(luò)，對(duì)數(shù)據(jù)類(lèi)型也沒(méi)有限制，對(duì)常見(jiàn)的稀疏數(shù)據(jù)也可以實(shí)現(xiàn)自適應(yīng)支持。”

還有非常重要的一點(diǎn)，將AI模型從云端遷移到終端，使用探境的芯片不需要重新訓(xùn)練。魯勇表示：“我們提供的工具鏈可以給零基礎(chǔ)的客戶(hù)使用，不僅在算法從云端到終端遷移的時(shí)候不需要重新訓(xùn)練，節(jié)省時(shí)間。還能保證模型從浮點(diǎn)到定點(diǎn)進(jìn)行量化之后，精度幾乎沒(méi)有變化。”

他透露，“我們有一套從特別的量化技術(shù)，硬件上提供一些比較冗余的信息，保證即使量化為8比特也不會(huì)丟失信息。同時(shí)借助AI、非線性的一套算法，通過(guò)軟硬結(jié)合的方式，甚至可以做到量化到4比特，模型都不需要重新訓(xùn)練?！?/strong>

魯勇所說(shuō)的精度幾乎沒(méi)有變化，指的是量化后精度有千分之幾的變化。比如從浮點(diǎn)16位時(shí)的95.7%的精度量化為定點(diǎn)八位后精度變?yōu)?5.3%。

因此，基于SFA架構(gòu)的探境AI芯片采用28nm的工藝能效就超過(guò)4TOPS/W，數(shù)據(jù)訪問(wèn)降低10倍到100倍，存儲(chǔ)子系統(tǒng)功耗降低10倍以上。

魯勇還透露，SFA架構(gòu)的圖像芯片已經(jīng)成功流片，圖像AI芯片的核心指標(biāo)IPS/W全球第一，達(dá)到了800 IPS/W。

數(shù)據(jù)顯示，目前市面上的AI圖像芯片這一指標(biāo)大都沒(méi)有超過(guò)100 IPS/W。

算法挖掘架構(gòu)優(yōu)勢(shì)

當(dāng)然，優(yōu)秀的架構(gòu)必須很好地融合算法，才能最大化硬件的優(yōu)勢(shì)。特別是AI時(shí)代，越來(lái)越多人意識(shí)到軟硬一體的重要性。探境在算法上也有其獨(dú)特的降噪和識(shí)別算法。語(yǔ)音識(shí)別大致可以分為四個(gè)過(guò)程，語(yǔ)音信號(hào)采集、語(yǔ)音信號(hào)處理、語(yǔ)音識(shí)別、獲得結(jié)果。以家居這個(gè)AI語(yǔ)音落地較多的場(chǎng)景為例，具有信噪比（信號(hào)與噪聲的比例）比較低，會(huì)有不可預(yù)見(jiàn)的噪聲以及多個(gè)聲源等挑戰(zhàn)。

從語(yǔ)音識(shí)別的過(guò)程來(lái)看，想要獲得滿意的結(jié)果，首先需要的是降噪算法。探境科技聯(lián)合創(chuàng)始人 軟件研發(fā)副總裁李同治介紹：“我們的降噪算法基于深度學(xué)習(xí)，不僅可以處理常見(jiàn)的穩(wěn)態(tài)噪聲，對(duì)一些非穩(wěn)態(tài)的噪聲和突發(fā)性的噪聲也可以很好地處理。為了驗(yàn)證這套算法識(shí)別的有效性，我們將一批信噪比在3dB左右的語(yǔ)音數(shù)據(jù)送到一家知名互聯(lián)網(wǎng)公司的云端識(shí)別引擎進(jìn)行測(cè)試，結(jié)果顯示降噪后比降噪前的識(shí)別率能夠提升30%以上?！?/p>

30%是個(gè)什么概念？根據(jù)李同治播放的音頻，使用探境的AI降噪算法，能夠有效地過(guò)濾風(fēng)聲、雨滴聲這些噪音。

降噪后的下一步是識(shí)別，在語(yǔ)音識(shí)別中，探境采用的是其稱(chēng)為HONN的新型高計(jì)算強(qiáng)度神經(jīng)網(wǎng)絡(luò)。李同治透露，HONN將計(jì)算機(jī)視覺(jué)中的一些經(jīng)驗(yàn)遷移到語(yǔ)音識(shí)別中。HONN增加了卷積的操作次數(shù)，減少了傳統(tǒng)DNN/TDNN算法中全連接的次數(shù)。

對(duì)比傳統(tǒng)的DNN算法，HONN特點(diǎn)在于算法的參數(shù)大概是傳統(tǒng)DNN算法的1/5，更少的參數(shù)意味著只需要更少存儲(chǔ)面積，也就相當(dāng)于更低的芯片成本。雖然參數(shù)更少，但HONN單幀對(duì)算力的需求超過(guò)幾百兆OPs，DNN僅為個(gè)位數(shù)。

最終結(jié)果顯示，在信噪比大于10dB和5-10dB的環(huán)境中，HONN命令詞識(shí)別準(zhǔn)確率的提升分別為2%和10%。

在實(shí)際的場(chǎng)景測(cè)試中，HONN使用單麥克風(fēng)效果也十分顯著。但語(yǔ)音識(shí)別的場(chǎng)景還有更加苛刻的場(chǎng)景，比如掃地機(jī)器運(yùn)行中產(chǎn)生的聲音，或者控制客廳或廚房中家電設(shè)備時(shí)距離較遠(yuǎn)語(yǔ)音信號(hào)快速衰減，這時(shí)候就需要使用麥克風(fēng)陣列。

傳統(tǒng)的麥克風(fēng)陣列有三個(gè)缺點(diǎn)，一個(gè)是聲源定位依賴(lài)單麥克風(fēng)，遠(yuǎn)場(chǎng)時(shí)喚醒率低影響使用體驗(yàn)；另一個(gè)是降噪算法和識(shí)別模型不適配；還有就是對(duì)多個(gè)麥克風(fēng)以及電容等元器件一致性要求非常高，無(wú)形提高了整個(gè)系統(tǒng)的物料成本；最后，當(dāng)干擾聲源與目標(biāo)聲源方向接近時(shí)，這套流程也無(wú)能為力。

“為了解決這些問(wèn)題，我們提出了基于FCSP（頻域復(fù)數(shù)子空間投影）的端到端AI雙麥新算法，把增強(qiáng)和識(shí)別一體化，進(jìn)行端到端的識(shí)別流程。在這個(gè)識(shí)別流程中，我們放棄了使用傳統(tǒng)的數(shù)字信號(hào)處理算法來(lái)做語(yǔ)音增強(qiáng)，而是用一套基礎(chǔ)于深度學(xué)習(xí)的AI算法做信號(hào)增強(qiáng)。處理算法的參數(shù)和神經(jīng)網(wǎng)絡(luò)一起訓(xùn)練，通過(guò)整體優(yōu)化降低最后的識(shí)別錯(cuò)誤率。“李同治還進(jìn)一步指出。

“我們的喚醒識(shí)別全部依賴(lài)增強(qiáng)后的信號(hào)，不會(huì)出現(xiàn)信號(hào)增強(qiáng)依賴(lài)于單麥喚醒的情況。并且在訓(xùn)練的過(guò)程中，還加入了注意力模型和注意力機(jī)制，這樣干擾源和信號(hào)源接近的時(shí)候也能處理得很好?！?/p>

這是前比較前沿的方法，國(guó)外的亞馬遜、谷歌也在采用端到端的方法做增強(qiáng)和識(shí)別的一體化處理。根據(jù)探境給出的數(shù)據(jù)，亞馬遜采用的是基于可學(xué)習(xí)的空間濾波方法，在信噪比低于5dB時(shí)，單字識(shí)別錯(cuò)誤率相對(duì)降低15%。谷歌使用的方法是頻域因子分解模型，單字識(shí)別錯(cuò)誤率相對(duì)降低16%。探境的頻域復(fù)數(shù)子空間投影命令詞識(shí)別錯(cuò)誤率相對(duì)降低20%。

采用這樣的方法就意味著可以用更少的麥克風(fēng)實(shí)現(xiàn)更好的效果，谷歌表示，使用端到端的處理算法后其雙麥的識(shí)別率可以達(dá)到了傳統(tǒng)算法7麥克風(fēng)陣列的識(shí)別率。

李同治表示，之所以探境能用更復(fù)雜的算法實(shí)現(xiàn)更好的效果，除了我們有強(qiáng)大的算法研究實(shí)力，同樣重要的是有高算力的SFA架構(gòu)芯片完美地制程這套算法和框架。

基于升級(jí)的雙麥克風(fēng)算法，探境也對(duì)音旋風(fēng)611進(jìn)行了升級(jí)，推出了音旋風(fēng)612語(yǔ)音識(shí)別方案，對(duì)麥克風(fēng)及配套電路的要求更低，高噪聲環(huán)境的識(shí)別率更高。

快速落地的秘密

至此，探境AI芯片能夠快速落地的秘密也就清晰了。最底層，探境進(jìn)行芯片架構(gòu)進(jìn)行的創(chuàng)新，打破AI芯片內(nèi)存墻的限制。當(dāng)然，SFA架構(gòu)除了帶來(lái)更高能效比、更低功耗，通用性讓其不僅可以用于AI語(yǔ)音，也適用于AI視覺(jué)處理。根據(jù)魯勇的說(shuō)法，SFA架構(gòu)也能用于云端的訓(xùn)練和推理。

不過(guò)，客戶(hù)并不關(guān)注芯片的架構(gòu)創(chuàng)新，他們更關(guān)注成本及易用性。探境獨(dú)特的量化技術(shù)可以節(jié)省遷移成本，軟件平臺(tái)可以降低開(kāi)發(fā)者的使用門(mén)檻，這讓芯片成為了易于使用的方案。

但要最終打動(dòng)用戶(hù)，解決用戶(hù)痛點(diǎn)才是決定因素。這方面，探境所做的是在降噪、識(shí)別算法中也采用深度學(xué)習(xí)，基于SFA架構(gòu)帶來(lái)的高算力，用模型參數(shù)更少但對(duì)算力要求更高的AI模型，實(shí)現(xiàn)用兩個(gè)麥克風(fēng)陣列達(dá)到4個(gè)甚至7個(gè)麥克風(fēng)陣列的效果。

通過(guò)軟硬一體的優(yōu)化，用成本、易用性、效果提升、系統(tǒng)易集成帶來(lái)的優(yōu)勢(shì)，最終打動(dòng)用戶(hù)。

當(dāng)然，除了技術(shù)，市場(chǎng)策略也非常關(guān)鍵。探境的SFA架構(gòu)可以用于AI視覺(jué)，并且探境成立之時(shí)是AI視覺(jué)更火熱的時(shí)候，但魯勇并沒(méi)有選擇安防市場(chǎng)，而是首先進(jìn)入更容易落地和產(chǎn)生營(yíng)收的AI語(yǔ)音市場(chǎng)，用更高的算力融合更更好的算法，讓產(chǎn)品具有更強(qiáng)的競(jìng)爭(zhēng)力。

同時(shí)，針對(duì)語(yǔ)音市場(chǎng)還布局了低功耗、主流、旗艦產(chǎn)品，能夠全面滿足市場(chǎng)需求。為滿足客戶(hù)不同的需求，既可以單獨(dú)提供芯片或者算法，也能夠提供全棧的方案。未來(lái)還將推出針對(duì)圖像市場(chǎng)的8XX系列芯片。

為進(jìn)一步拓展市場(chǎng)，探境近日也和國(guó)內(nèi)知名電子行業(yè)分銷(xiāo)商世強(qiáng)先進(jìn)科技有限公司以及致力于智能語(yǔ)音控制與交互技術(shù)研究、創(chuàng)意產(chǎn)品設(shè)計(jì)和生產(chǎn)銷(xiāo)售的深圳阿凡達(dá)智控有限公司也達(dá)成了合作。

那么，接下來(lái)的問(wèn)題是，首款A(yù)I芯片量產(chǎn)不到一年出貨就達(dá)到百萬(wàn)級(jí)，已經(jīng)有30個(gè)合作伙伴的探境科技，2020年語(yǔ)音方案出貨能否達(dá)到千萬(wàn)級(jí)？在AI視覺(jué)市場(chǎng)是否也能快速落地？雷鋒網(wǎng)

相關(guān)文章：

舍棄馮諾依曼架構(gòu)突破內(nèi)存墻瓶頸的AI芯片，即將轟動(dòng)市場(chǎng)？

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。