離開(kāi)百度的兩年里，吳韌創(chuàng)辦了一家做 AI 芯片的公司——異構(gòu)智能（NovuMind）。但在很長(zhǎng)一段時(shí)間里，關(guān)于吳韌的去向和這家公司在媒體報(bào)道中幾乎處于噤聲狀態(tài)。

按照吳韌一貫給人看似“低調(diào)”的性格，沒(méi)有做出一定的成績(jī)，或者足夠滿(mǎn)意的產(chǎn)品出來(lái)之前，他也應(yīng)該不會(huì)急于向外界發(fā)聲。不過(guò)，關(guān)于他們的報(bào)道在近期逐漸多了起來(lái)，異構(gòu)智能這家公司也逐漸浮出水面。

10 月 24 日，異構(gòu)智能創(chuàng)始人吳韌向包括雷鋒網(wǎng)在內(nèi)的十多家媒體整體介紹了異構(gòu)智能這家公司和他們做的 AI 芯片。關(guān)于吳韌的介紹，以及異構(gòu)智能的應(yīng)用案例，已在此前吳韌接受雷鋒網(wǎng)專(zhuān)訪文中進(jìn)行過(guò)詳細(xì)描述，此番不再贅述。

本篇主要介紹異構(gòu)智能的 AI 芯片跟其他公司有何不同？它瞄準(zhǔn)了芯片市場(chǎng)的哪些應(yīng)用場(chǎng)景？異構(gòu)智能的芯片對(duì)標(biāo)英偉達(dá)、Google ，底氣來(lái)自何處？

全棧式的 AI 解決方案

在這場(chǎng)人工智能浪潮中，其中獲利最大的公司之一應(yīng)該是 AI 芯片巨頭英偉達(dá)，在不到兩年的時(shí)間內(nèi)，它的股價(jià)也因此翻了近 10 倍，變身為一家市值千億美元的巨頭公司。

相較而言，傳統(tǒng)硬件巨頭英特爾則處于一個(gè)追趕者的角色，但不甘落后使得它在今年 3 月以 153 億美元收購(gòu) Mobileye，將賭注押在了汽車(chē)行業(yè)。另一巨頭 Google 作為傳統(tǒng)互聯(lián)網(wǎng)公司，也緊跟步伐，積極部署人工智能芯片。

吳韌將英偉達(dá)的成就歸咎于它為 AI 公司提供了訓(xùn)練模型最基礎(chǔ)的計(jì)算力。

算力是決定人工智能發(fā)展重要的一環(huán)，異構(gòu)智能也希望憑借芯片進(jìn)入各行各業(yè)，不僅能為人工智能公司提供計(jì)算能力，還包括非人工智能公司，幫助它們進(jìn)行人工智能落地。換句話(huà)說(shuō)，也就是要對(duì)不同行業(yè)提供全棧式的 AI 解決方案。

異構(gòu)智能的思路是既有芯片，又有模型、超級(jí)計(jì)算機(jī)，將模型脫離云端，帶到本地和終端，讓終端變得智能?！俺?jí)計(jì)算機(jī)可以訓(xùn)練模型，模型和芯片進(jìn)行配合，讓芯片最后可以做某一個(gè)模塊的功能。”

這跟做平臺(tái)的思路有很大不同。平臺(tái)更多是做一個(gè)標(biāo)準(zhǔn)，要求大而全，這樣做“會(huì)有額外的負(fù)擔(dān)”，而異構(gòu)智能要做的正是優(yōu)化這些額外負(fù)擔(dān)，做出極端定制化的 AI 芯片。

按照這樣的設(shè)想，異構(gòu)智能就會(huì)有更多應(yīng)用場(chǎng)景的想象空間。比如，他們已經(jīng)與合資公司做了智能醫(yī)療，也會(huì)涉及智能安防、智能駕駛、智慧城市等領(lǐng)域。目前的合作者中有 HP、KUKA 這樣的大公司，通過(guò)類(lèi)似于 2B2C 這樣的業(yè)務(wù)模式，把 AI 能力賦予給它們各自的用戶(hù)。

高性能-低功耗的 AI 芯片

“芯片用電量與市場(chǎng)規(guī)模成反比”，異構(gòu)智能在兩年前成立的時(shí)候發(fā)現(xiàn)了這一點(diǎn)，所以希望將人工智能的能力用最小功耗實(shí)現(xiàn)，他們也覺(jué)得這是異構(gòu)智能打開(kāi)未來(lái)大門(mén)的機(jī)會(huì)。

機(jī)會(huì)與挑戰(zhàn)共存，挑戰(zhàn)的一面在于，把 AI 放在終端芯片要求高性能，因?yàn)槿斯ぶ悄艿挠?jì)算很復(fù)雜。其次是低功耗，要放在很小一塊地方上，需要付出巨大努力。

那異構(gòu)智能如何去做這樣一款 AI 芯片？吳韌介紹說(shuō)，這款芯片不會(huì)用來(lái)上網(wǎng)，或者做一些其他計(jì)算。“它擅長(zhǎng)的是在三維上做卷積張量的計(jì)算，把人工智能的計(jì)算加速。”

一般的 AI 芯片需要 10TOPs 的計(jì)算能力才能把應(yīng)用實(shí)現(xiàn)，在吳韌看來(lái)， Google 等公司的芯片計(jì)算能力很強(qiáng)，但耗電能力同樣也很高，這就難以滿(mǎn)足人工智能在本地落地的條件。耗電相對(duì)較低的 Movitus、高通、寒武紀(jì)麒麟 970 等芯片，卻在計(jì)算能力上比他們所想要的少了兩個(gè)數(shù)量級(jí)。

而拿異構(gòu)智能即將推出的 5W15TOPs 芯片來(lái)說(shuō)，“5W 是 USB 可以提供的電量，使用這樣電量的芯片會(huì)有很大應(yīng)用空間，從而實(shí)現(xiàn)從云端到終端的突破能力?！眳琼g介紹道。

問(wèn)題是，既然連英偉達(dá)、Google 這樣的巨頭都還沒(méi)做能同時(shí)滿(mǎn)足兩種需求的芯片，異構(gòu)智能作為一個(gè)創(chuàng)業(yè)公司卻說(shuō)自己的芯片做的比他們好，底氣來(lái)源于哪里？

“專(zhuān)用性”是吳韌提及最多的特點(diǎn)?！霸诠降氖澜纾械镁陀惺?，要扔掉一些東西才能得到一些東西?！憋@然，異構(gòu)智能犧牲的是通用性，轉(zhuǎn)而把目光放在了全棧和垂直優(yōu)化上。他繼續(xù)解釋說(shuō)，“當(dāng)年 GPU 贏過(guò) CPU 就是因?yàn)?GPU 比 CPU 專(zhuān)用?！比缃?，對(duì)專(zhuān)用性的追求，從某種意義上講也自然被異構(gòu)智能看做是與巨頭抗衡甚至“打敗”它們的重要特質(zhì)。

而從計(jì)算方式比較，CEVA 和 Tensillica 的 DSP 芯片是在 1D 乘積累加運(yùn)算（MAC）來(lái)完成操作的，而英偉達(dá) TX 系列的 GPU 芯片運(yùn)作的本質(zhì)是使用了 2D 通用矩陣乘法(GEMM)。

但吳韌表示，人工智能的核心計(jì)算是三維張量的卷積計(jì)算，在小立方體和大立方體重合部分做點(diǎn)乘。目前只有異構(gòu)智能的芯片在三維層面做操作，并且他們已經(jīng)有四項(xiàng)專(zhuān)利保護(hù)。

第一項(xiàng)專(zhuān)利是三維張量的卷積，這是人工智能最重要的操作，可以用硬件直接實(shí)現(xiàn)。其他三項(xiàng)專(zhuān)利是對(duì)數(shù)據(jù)的調(diào)度與分配、歸并，處理器間的協(xié)作。

為了說(shuō)明三維張量卷積計(jì)算的優(yōu)勢(shì)，他用吃冰激凌的方法做了個(gè)更形象比喻：冰激凌可以用手沾著吃，但沒(méi)有效率；可以拿吸管吸，效率也不是很高；更厲害一點(diǎn)的是用一個(gè)小平面吃，但也不是最優(yōu)；最好的方式是用一個(gè)三維專(zhuān)用勺子吃冰激凌。

對(duì)標(biāo)英偉達(dá)和 Google 

除了核心計(jì)算方式不同外，在具體的應(yīng)用場(chǎng)景上，吳韌也談了談跟巨頭如何競(jìng)爭(zhēng)。比如，自動(dòng)駕駛也是英偉達(dá)所要發(fā)力的領(lǐng)域，他們的 30W30TOPs 芯片是主推產(chǎn)品。但吳韌對(duì)英偉達(dá)在無(wú)人駕駛領(lǐng)域的芯片表示了質(zhì)疑，認(rèn)為后者的判斷不夠精確，“原來(lái)想 Centralized Process，但是所有人都低估了其中的難度。”他進(jìn)一步強(qiáng)調(diào)說(shuō)，30TOPs 的芯片使用在自動(dòng)駕駛上可能并不夠，也許需要分布式計(jì)算。

當(dāng)然，無(wú)人駕駛汽車(chē)有雷達(dá)、毫米波雷達(dá)、攝像頭等多處需要處理器的裝置，需要把處理結(jié)果進(jìn)行計(jì)算。“當(dāng)有很多芯片的時(shí)候，異構(gòu)智能和英偉達(dá)的區(qū)別就體現(xiàn)出來(lái)了?！?/strong>他說(shuō)。

就在媒體溝通會(huì)當(dāng)天，自喻為“中國(guó)版英偉達(dá)”的深鑒科技宣布完成 A+輪融資約 4000 萬(wàn)美元，吳韌表示對(duì)國(guó)內(nèi)很多公司不便評(píng)價(jià)，但卻說(shuō)異構(gòu)智能目前的芯片對(duì)標(biāo)對(duì)象是 Google TPU 和英偉達(dá) GPU。

從整個(gè)市場(chǎng)來(lái)看，根據(jù)智研咨詢(xún)發(fā)布的《2017-2023 年中國(guó)人工智能芯片行業(yè)研究及未來(lái)發(fā)展趨勢(shì)報(bào)告》，可以看到 AI 芯片市場(chǎng)規(guī)模增長(zhǎng)迅速。據(jù)統(tǒng)計(jì)數(shù)字，2016 年人工智能芯片市場(chǎng)規(guī)模達(dá)到 6 億美元，預(yù)計(jì)到 2021 年將達(dá)到 52 億美元，年復(fù)合增長(zhǎng)率達(dá)到 53%，增長(zhǎng)迅猛，發(fā)展空間可期，但由此可以預(yù)見(jiàn)這個(gè)巨大市場(chǎng)在未來(lái)的競(jìng)爭(zhēng)將會(huì)多么激烈。

人工智能的發(fā)展空前火熱，物聯(lián)網(wǎng)這個(gè)概念近幾年卻一直都是半溫不火。吳韌則直接表示物聯(lián)網(wǎng)是一個(gè)偽命題，難以實(shí)現(xiàn)。“物聯(lián)網(wǎng)看起來(lái)可以魔術(shù)般的連起來(lái)，但實(shí)際上要通過(guò)很多海底光纜或地下光纜從分支道路到主干道連接的?！倍鞲傻朗菄?guó)家資源，需要國(guó)家投資才能持續(xù)擴(kuò)大。

他認(rèn)為最好的解決方案是將人工智能的能力從云端拿到終端，讓“小東西”有思考能力，然后將它們思考的結(jié)果通過(guò)網(wǎng)絡(luò)與世界連接。“I²OT（智能物聯(lián)網(wǎng)）才是未來(lái)唯一的可能。”他篤定地說(shuō)道。

基于此，異構(gòu)智能的定位就很明確了：在萬(wàn)物互聯(lián)向萬(wàn)物智能轉(zhuǎn)變的過(guò)程中，將人工智能從云端延展到終端，從而為“智聯(lián)網(wǎng)”賦能。

*來(lái)自雷鋒網(wǎng)報(bào)道

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。