雷峰網(wǎng)按：始于2016年的“全球人工智能與機(jī)器人大會(huì)”（GAIR），歷經(jīng)五年，見(jiàn)證數(shù)次潮水的轉(zhuǎn)向，成為目前為止粵港澳大灣區(qū)人工智能領(lǐng)域規(guī)模最大、規(guī)格最高的學(xué)術(shù)、工業(yè)和投資領(lǐng)域跨界盛會(huì)。

在12月10日舉辦的第六屆全球人工智能與機(jī)器人大會(huì)（GAIR 2021）“集成電路高峰論壇：國(guó)產(chǎn)高端芯片之路”論壇上，多位業(yè)界大咖分享了RISC-V在中國(guó)MCU、DSP、AI邊緣芯片等方面的應(yīng)用與發(fā)展。

嘉楠科技副總裁湯煒偉帶來(lái)了《基于RISC-V的邊緣AI芯片的技術(shù)革新與商業(yè)化實(shí)踐》主題演講，分享了他對(duì)于RISC-V AI芯片商業(yè)化前景的思考以及嘉楠科技在相關(guān)領(lǐng)域的最新技術(shù)成果。

在湯煒偉看來(lái)，如今是邊緣計(jì)算爆發(fā)及芯片架構(gòu)創(chuàng)新的黃金時(shí)代，而RISC-V是一個(gè)非常有前景的計(jì)算架構(gòu)，除了開(kāi)源、免費(fèi)、開(kāi)放等特點(diǎn)外，也代表了經(jīng)典指令集+一個(gè)自定義擴(kuò)展的技術(shù)架構(gòu)方向，使得所有人都能在標(biāo)準(zhǔn)化平臺(tái)下根據(jù)需求做靈活的裁剪，這些特性使RISC-V有希望成為芯片領(lǐng)域Android。

湯煒偉表示，AI正在從云端智能下沉到邊緣端和設(shè)備端，面對(duì)碎片化場(chǎng)景時(shí)如何兼顧高性能與低功耗，對(duì)于芯片的設(shè)計(jì)體系架構(gòu)提出了很高要求，這當(dāng)中除了通過(guò)采用先進(jìn)制程降低功耗外，架構(gòu)創(chuàng)新也是一條重要的技術(shù)革新道路，而嘉楠科技一開(kāi)始便選擇了通過(guò)RISC-V架構(gòu)研發(fā)AI芯片。

據(jù)介紹，嘉楠科技已推出第一代芯片K210并正在量產(chǎn)新一代的K510，其芯片在多個(gè)領(lǐng)域的產(chǎn)品上得到應(yīng)用并獲得國(guó)內(nèi)外客戶(hù)認(rèn)可，未來(lái)嘉楠科技將會(huì)繼續(xù)堅(jiān)持RISC-V自研及AI處理器核心IP自研的技術(shù)路線(xiàn)。

以下為湯煒偉現(xiàn)場(chǎng)演講的全部?jī)?nèi)容，雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))作了不改變?cè)獾木庉嬇c整理：

我是來(lái)自嘉楠科技的湯煒偉，我們是做高性能芯片的企業(yè)，2016年開(kāi)始切入人工智能芯片領(lǐng)域，我們對(duì)于RISC-V有深刻的感情，一開(kāi)始就切入RISC-V的體系架構(gòu)。我簡(jiǎn)單講講技術(shù)革新和商業(yè)化實(shí)踐的動(dòng)作。主要分為四部分：一是我們是誰(shuí)；二是怎么看邊緣計(jì)算和AI；三是技術(shù)革新；四是商業(yè)化落地。 

我們嘉楠科技定位是數(shù)字新基建的芯片廠(chǎng)商，在區(qū)塊鏈和人工智能領(lǐng)域都保持領(lǐng)先，區(qū)塊鏈這塊我們?cè)?013年交付全球首款區(qū)塊鏈的ASIC芯片，ASIC領(lǐng)域首個(gè)交付7納米的芯片廠(chǎng)商。我們做過(guò)14次的芯片流片，全是量產(chǎn)流片，成功率達(dá)到百分之百，現(xiàn)在在流片生產(chǎn)上保持著多晶圓廠(chǎng)的策略。

人工智能這塊我們的品牌叫勘智（勘探大智慧），英文叫Kendryte，我們于2016年啟動(dòng)業(yè)務(wù)，2018年底交付全球首個(gè)基于RISC-V架構(gòu)的人工智能芯片，到現(xiàn)在將近三年的時(shí)間出貨超過(guò)百萬(wàn)顆，并且逐步從55納米一路走到5納米的先進(jìn)制程，公司是2019年在納斯達(dá)克上市。

邊緣計(jì)算的大爆發(fā)與芯片架構(gòu)創(chuàng)新的黃金時(shí)代

IDC去年預(yù)測(cè)2025年邊緣設(shè)備達(dá)到557億臺(tái)，75%將在云端平臺(tái)，產(chǎn)生的數(shù)據(jù)相比六年前增長(zhǎng)四倍以上，這么多邊緣計(jì)算設(shè)備里產(chǎn)生的數(shù)據(jù)也是持續(xù)爆發(fā)式增長(zhǎng)。

體系架構(gòu)領(lǐng)域，有著名的科學(xué)家說(shuō)現(xiàn)在是體系架構(gòu)創(chuàng)新的黃金時(shí)代，從以前比較單一的CPU和GPU，走向FPGA、DSA、ASIC等專(zhuān)用架構(gòu)。架構(gòu)百花齊放時(shí)代前所未有，誕生如此多做人工智能、做GPU和ASIC的公司。

從CPU來(lái)看，X86架構(gòu)統(tǒng)治PC和服務(wù)器情況已經(jīng)有松動(dòng)的跡象，像ARM一路從物聯(lián)網(wǎng)和手機(jī)端逐漸往上進(jìn)攻，走到PC和服務(wù)器。

而RISC-V也是從相對(duì)入門(mén)的領(lǐng)域、從物聯(lián)網(wǎng)設(shè)備起步，隨后大量的其它設(shè)備開(kāi)始采用RISC-V架構(gòu)。

在我們看來(lái)RISC-V一定是一個(gè)非常有希望、非常有前景的計(jì)算架構(gòu)，除了開(kāi)源、免費(fèi)、開(kāi)放等特點(diǎn)之外，我認(rèn)為它代表了將來(lái)經(jīng)典指令集+一個(gè)自定義擴(kuò)展的非常好的技術(shù)架構(gòu)方向，所有人可以在相對(duì)標(biāo)準(zhǔn)化的平臺(tái)上靈活自定義和擴(kuò)展，我們寄希望它是芯片領(lǐng)域的Android。

AIoT新趨勢(shì)提出新需求與新挑戰(zhàn)

AI+IoT方面，我們看到的趨勢(shì)是從場(chǎng)景化到設(shè)備化、多樣化，在吃住行游購(gòu)物娛樂(lè)、元宇宙、教育、產(chǎn)業(yè)領(lǐng)域大量的IoT設(shè)備——包括包括機(jī)器人、無(wú)人機(jī)、自動(dòng)駕駛機(jī)器等都獲得廣泛的應(yīng)用。

AI在這些領(lǐng)域得到廣泛應(yīng)用的前提，我認(rèn)為是場(chǎng)景化的應(yīng)用相對(duì)比較簡(jiǎn)單，從簡(jiǎn)單做起然后再逐步地復(fù)雜化，只要東西夠簡(jiǎn)單、夠單一，設(shè)備又能解決一定程度上的產(chǎn)品和場(chǎng)景的問(wèn)題，就有可能成為爆款——像前幾年的智能音響，這幾年的掃地機(jī)，只要它的功能相對(duì)比較單一又能解決問(wèn)題，一定會(huì)成為爆款。

另一個(gè)趨勢(shì)是，AI從云到邊，即我們所理解的智能下沉，從幾年前所有的AI都在云上——英偉達(dá)、AMD等公司的計(jì)算量大部分在云端的訓(xùn)練上。通過(guò)很多科學(xué)家不斷探索出相對(duì)可以生產(chǎn)產(chǎn)業(yè)化、批量可落地的模型，再逐步滲透到邊緣端和設(shè)備端，在模型下沉的過(guò)程中，我們逐步實(shí)現(xiàn)AI全面賦能AIoT。

AIoT和云端有區(qū)別，云端的成本低大家都選在云端，很多的設(shè)備邊緣端、終端有非常多云端做不多的事情，比如說(shuō)低延遲、隱私計(jì)算，確保流量帶寬用得比較少，包括邊緣端的功耗可以做得更低，算力更高，成本更低。 

AIoT究竟需要什么？需要包括視覺(jué)、語(yǔ)音和其他的手段，數(shù)據(jù)進(jìn)來(lái)了可能要計(jì)算——分為多種類(lèi)型的CPU、GPU、ASIC異構(gòu)的計(jì)算，算完的成果要通信、上傳、回傳，還有控制，需要把這幾個(gè)過(guò)程聯(lián)動(dòng)起來(lái)，甚至在低功耗的時(shí)候不需要啟動(dòng)，有一個(gè)MCU就可以把這些東西控制起來(lái)。

這里有大量的技術(shù)點(diǎn)和需求點(diǎn)，我認(rèn)為是雙螺旋的過(guò)程，AI的需求端左側(cè)會(huì)面臨各種各樣的細(xì)化、分化的需求，包括全場(chǎng)景的AI和多模態(tài)的需求，現(xiàn)在大家看智能家居或智能工業(yè)場(chǎng)景、安防都越來(lái)越多使用到視覺(jué)、語(yǔ)音、圖像等多種類(lèi)型的傳感器輸入。

AI的應(yīng)用上又有很多的分化，有的是低頻使用的場(chǎng)景，比如說(shuō)電池類(lèi)，可能喚醒一下、啟動(dòng)一下、工作一下又關(guān)機(jī)了。很多領(lǐng)域我們傾向于將由人工介入的智能變成機(jī)器智能，比如說(shuō)智能門(mén)鎖，只要刷臉或是有指紋就開(kāi)鎖，不需要人去看圖像，人去介入門(mén)鎖；或是判斷工業(yè)上的故障，減少人工的介入。這些對(duì)供應(yīng)鏈交付是非常大的挑戰(zhàn)。

AIoT對(duì)技術(shù)端也提出很多新的需求，設(shè)備化又非常碎片化的場(chǎng)景，怎么設(shè)計(jì)體系架構(gòu)才能讓我們的場(chǎng)景實(shí)現(xiàn)高性能和低功耗？這是一個(gè)挑戰(zhàn)。

此外，產(chǎn)品體系和創(chuàng)新體系的挑戰(zhàn)，設(shè)備化、場(chǎng)景化的地方，每個(gè)設(shè)備、每個(gè)場(chǎng)景都有不同的需求，怎么樣實(shí)現(xiàn)從能用到好用？從好用到恰好好用，這是在性能和成本之間的平衡，這個(gè)平衡可能非常重要。

其實(shí)AI芯片的各部分像拼圖一樣，圖像、語(yǔ)音、高速接口、NPU、內(nèi)存、安全、外設(shè)子系統(tǒng)，DSP都是獨(dú)立的系統(tǒng)， 芯片有NPU的單元、DMA、存儲(chǔ)、外設(shè)等，這些東西如何有機(jī)的耦合在一起可以工作、可以順利地轉(zhuǎn)起來(lái)需要很多的協(xié)同。

四大創(chuàng)新把握AI芯片研發(fā)

針對(duì)上面這些需求和挑戰(zhàn)，在A(yíng)I芯片的研發(fā)上我們做了幾個(gè)方面的創(chuàng)新：

一是綜合研發(fā)創(chuàng)新，芯片設(shè)計(jì)全流程做到軟件、硬件嵌入、系統(tǒng)軟件的協(xié)同。

這個(gè)“全流程”是市場(chǎng)調(diào)研到芯片規(guī)格定義再到中間的全流程，我們有一些自己的心得，在架構(gòu)設(shè)計(jì)這端從CPU架構(gòu)、模塊架構(gòu)設(shè)施一起走，多線(xiàn)程往前推，中間的SoC驗(yàn)證仿真，協(xié)同仿真，我們都要有團(tuán)隊(duì)可以上去做。后面到量產(chǎn)、交付也需要軟件協(xié)同的工作。

二是架構(gòu)創(chuàng)新，我們要做到RISC-V的自研、KPU、NPU方面的自研，工具鏈的自研，這是我們認(rèn)為將來(lái)長(zhǎng)期發(fā)展的核心競(jìng)爭(zhēng)力。

像是神經(jīng)架構(gòu)網(wǎng)絡(luò)加速器自研，有自己的獨(dú)特?cái)?shù)據(jù)流和定點(diǎn)協(xié)同的設(shè)計(jì)等。我們自己設(shè)計(jì)了比較大的GLP，有很好的指令解析和分發(fā)。

精度這塊，通過(guò)很好的量化、壓縮和融合等技術(shù)，可以做到0.5%以?xún)?nèi)的無(wú)損壓縮；然后工具鏈部分，基于TDM的前端，支持TF、PyTorch、ONNX、TVM，底部也有很多的優(yōu)化，全系產(chǎn)品線(xiàn)都是協(xié)同一致的。

三是先進(jìn)工藝，從7納米到5納米，再到3D，這方面都需要持續(xù)的迭代演進(jìn)。

我們?cè)趨^(qū)塊鏈這塊7納米到5納米、包括FINFET3D封裝上有一些競(jìng)爭(zhēng)力，包括近閾值的電路設(shè)計(jì)，0.75伏降到0.3伏，芯片的功耗分為靜態(tài)和動(dòng)態(tài)，動(dòng)態(tài)基本上是0.75和0.3的平方關(guān)系，功耗可以得到顯著的降低。標(biāo)準(zhǔn)單元設(shè)計(jì)優(yōu)化，包括算法的開(kāi)發(fā)優(yōu)化、散熱解決方案、高能效、高計(jì)算密度。5納米這塊我們積累了很多自研的IP，包括高速的接口，都會(huì)用到人工智能和計(jì)算的產(chǎn)品線(xiàn)上。

四是產(chǎn)品和市場(chǎng)，發(fā)現(xiàn)賽道的趨勢(shì)、需求的趨勢(shì)、市場(chǎng)的趨勢(shì)，我們?nèi)绾尉珳?zhǔn)地抓到它

從 K210 到 K510，AI 芯片的商業(yè)化落地

講完技術(shù)方面的內(nèi)容，現(xiàn)在我們講講產(chǎn)品和商業(yè)化落地方面。

在第一顆芯片勘智K210之后，我們正在量產(chǎn)的是K510，還在規(guī)劃、要做的是K230，將來(lái)在2系、5系和8系的產(chǎn)品線(xiàn)上會(huì)逐步地迭代，做到每年1到2顆。大的行業(yè)視角分為三類(lèi)：一是門(mén)鎖、門(mén)禁、STEAM教育；二是對(duì)AI算力和圖像要求較高的安防、泛安防、智慧城市、準(zhǔn)車(chē)載領(lǐng)域；三是Edge Computing（邊緣計(jì)算），8系將會(huì)覆蓋2倍的算力，它是以機(jī)器視覺(jué)為主。

我們的第一代產(chǎn)品K210在2016年啟動(dòng)研發(fā)，2018年發(fā)布，基本上是全球首款RISC-V商用的邊緣芯片，是真正做到量產(chǎn)出貨的。

K210配備RISC-V雙核64位處理器帶FPU，支持模塊化及定制化設(shè)計(jì)，支持自定義指令，架構(gòu)比較簡(jiǎn)單，平臺(tái)方面支持Linux、RTT、Free-RTOS，嵌入式機(jī)器學(xué)習(xí)我們支持MicroPython。

K210在歐美得到醫(yī)療公司的認(rèn)可，在STEAM教育、通行和新興的場(chǎng)景——比如兩輪車(chē)、智能車(chē)上也都有不錯(cuò)的商用前景。STEAM方面我們跟優(yōu)必選、大疆合作做機(jī)器人、編程小車(chē)、機(jī)器狗，這些會(huì)在大家熟知的一線(xiàn)、二線(xiàn)城市的課堂里展開(kāi)。

這是我們幾個(gè)產(chǎn)品的典型圖（下圖），包括用K210做的智能圖像讀表器，門(mén)禁考勤機(jī)、無(wú)感門(mén)禁攝像頭，歐洲客戶(hù)做的血氧儀、膠囊機(jī)器人，美國(guó)客戶(hù)做的眼球追蹤，以及深圳客戶(hù)做的教育編程小車(chē)等產(chǎn)品。

這是我們跟合作伙伴做的四足機(jī)器狗（下圖），基于K210，可以進(jìn)行視覺(jué)、人臉識(shí)別，你甚至可以跟它玩石頭剪刀布。它是四足的，每個(gè)足上三軸，等于是12軸的運(yùn)動(dòng)機(jī)器狗，它支持圖形化的編程和Python編程，不僅可以玩現(xiàn)有內(nèi)嵌的十幾、二十種算法，同時(shí)還可以自定義開(kāi)發(fā)，這也是非常受?chē)?guó)內(nèi)和國(guó)外愛(ài)好者的歡迎。

我們的第二顆芯片K510是定位中高端的端側(cè)推理芯片，采用全新一代的RISC-V CPU，DSP主頻可以達(dá)到800兆，另外這是新一代DSP，具備2D、3D降噪，WDHL，魚(yú)眼校正、硬件3A等功能。

K510所搭載的KPU神經(jīng)網(wǎng)絡(luò)處理器技術(shù)也走到了第二代，功耗進(jìn)一步降低。這個(gè)的應(yīng)用場(chǎng)景會(huì)比上一代更往高端走一些，比如說(shuō)類(lèi)似于無(wú)人機(jī)、視頻會(huì)議、機(jī)器人、STEAM教育、工業(yè)相機(jī)等等這些場(chǎng)景，這些場(chǎng)景里都積累了一批先期試用的客戶(hù)，正在做緊密的合作。

最后，我們的初衷就是做好中國(guó)芯片，以中國(guó)的創(chuàng)新服務(wù)全球。

從深圳企業(yè)來(lái)講很多也是這樣的，包括大疆、華為也都是從中國(guó)走向世界。技術(shù)路線(xiàn)上我們將堅(jiān)持RISC-V自研和人工智能處理器核心IP的自研，包括先進(jìn)工藝的IP自研。我們也是熱忱地希望和深圳、國(guó)內(nèi)國(guó)外的客戶(hù)緊密合作，能把RISC-V的生態(tài)發(fā)揚(yáng)光大，能把國(guó)產(chǎn)AIoT芯片做到非常好的水平。

歡迎大家合作交流，謝謝。

雷峰網(wǎng)雷峰網(wǎng)雷峰網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。