丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網賬號安全和更好的產品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預覽,將在時失效
人工智能 正文
發(fā)私信給大牛講堂
發(fā)送

1

余凱與雷鳴漫談嵌入式人工智能 | 大牛講堂

本文作者: 大牛講堂 2017-03-06 16:18
導語:“北大AI公開課”系列第二講《嵌入式人工智能:從邊緣開始的革命》于周二晚結束,地平線創(chuàng)始人&CEO余凱博士與北大人工智能創(chuàng)新中心主任雷鳴一起漫談嵌入式人工智能。

2017年2月的最后一天,北京大學“人工智能前沿與產業(yè)趨勢”研究生課第二講如約和同學見面。課程依舊由北大人工智能創(chuàng)新中心主任、百度七劍客之一、酷我音樂創(chuàng)始人雷鳴老師坐鎮(zhèn),而邀請的嘉賓則是地平線機器人創(chuàng)始人&CEO、中組部“”國家特聘專家、機器學習專家、互聯(lián)網人工智能領域全球領導者之一余凱博士。

本講圍繞的主題是嵌入式人工智能,涉及了嵌入式人工智能的本質特征、軟硬件結合聯(lián)合優(yōu)化、應用場景及未來的發(fā)展機會等等,亮點頗多。

余凱博士首先以“人工智能的邊緣機會”為切入點,做了時長50分鐘的演講。之后雷鳴登臺,和余凱就“人工智能的專用性和通用性”、“在軟硬件聯(lián)合優(yōu)化的過程中如何良好同步”等問題展開了對話和討論。

下面是完整的課程實錄。(內容豐富,文末鏈接可直通現場視頻)                               

 余凱與雷鳴漫談嵌入式人工智能 | 大牛講堂

余凱演講全文

謝謝雷鳴,我的老朋友,好哥們兒。其實雷鳴老師是我們所有百度人的前輩,百度的七劍客之一。今天我也非常感動,能來到北大和在座的老師和同學們分享一些關于人工智能的看法。我記得很早之前也來北大做過深度學習的講座,距離現在也有些時間了,這期間我個人的身份也發(fā)生了一些轉變。

在過去的兩年間,人工智能變成了一個非常 sexy 的話題。那么,What’s the hype? 這里面是否真正有一些實在的因素在推動?我昨天到今天一直在非常認真地在準備今天這個講座,因為這也是雷鳴老師給我布置的一個作業(yè)。

在座的從事人工智能相關學習或研究的有不少。我記得我自己大學一、二年級的時候是在學習用 FORTUNE,C 語言編程,而今日來找我請教的大一、大二的同學會跟我探討如何建模去識別女孩子飾品這類的問題,所以說computing science 在過去講的是 computing,而如今關注的是 data science,變成了 data-driven 的 computing science,統(tǒng)計的、大數據的、計算的建模越來越多。

過去是big data, big model, big computing這三個因素在推動學術研究和產業(yè)發(fā)展。所有的計算從 PC 到移動設備有一種聚合的趨勢,聚合到云計算、數據中心。但是天下之事,分久必合合久必分,在未來的十到二十年,我認為很多計算會到互聯(lián)網的邊緣,會到我們的 device 端,甚至有些還是在不聯(lián)網或無線聯(lián)網環(huán)境下,依賴電池或本地的動力支持如發(fā)動機去進行本地的計算。

今天我想跟大家更多地分享一下我個人關于產業(yè)向前發(fā)展的思考,一些“干貨”。我今天提出一個新的類別,叫做嵌入式人工智能,意為不是在云計算或數據中心而是在互聯(lián)網的邊緣。我認為從現在開始,我們會看到從邊緣開始的一種革命,正如從2012開始深度學習所引起的革命,一般來說,革命都是從邊緣開始的。2012年4月我在西安一次會議上作了一個關于深度學習的講座,那時深度學習還是一個處于邊緣的課題,而如今已發(fā)展為風暴的中心。當今人工智能的計算大多數都在 BAT 的數據中心,在云上面,但我們會發(fā)現,有一個巨大的機會遠離數據中心,在互聯(lián)網的邊緣。

我這個想法是從哪里來的呢?先從我個人的經歷談起,我自己在深度學習這個領域工作了二十多年,之前在美國硅谷的NEC Labs領導一個計算機視覺小組,也是世界上第一個做相關項目的小組。我的小組在2010年第一屆ImageNet Challenge上拿到全球第一名。

2012年回國加入百度,創(chuàng)立了業(yè)界首個人工智能中心 IDL Center,如今已是業(yè)界最具影響力的人工智能中心,我至今還認為它非常出色,匯聚了很多優(yōu)秀的人才,包括百度的自動駕駛團隊,中國最早的自動駕駛項目。

雖然我博士畢業(yè)以來一直在工業(yè)領域發(fā)展,但我與學術界一直保持著緊密的聯(lián)系。分享一個小片段,2009年參與 ICML(International Conference of Machine Learning,)時我和幾位朋友共同組織了一個關于深度學習的 workshop,日后這幾位朋友分別加入了 APPLE、Google、Facebook 這樣的大企業(yè)去建立人工智能中心??梢钥吹竭@樣一個現象,就是深度學習在很短的時間內迅速影響了世界上最偉大的高科技公司。

2014年我也引薦 Andrew Ng,也是我多年的朋友,加入了百度,這是首次有全球知名的 technical leader 加入中國公司,在國內外都引發(fā)巨大震動,我至今都引以為傲。

我個人認為未來原創(chuàng)技術改變世界的創(chuàng)舉一定會從中國發(fā)生,這也是我加入百度的原因,我初到百度做自我介紹時談過,我希望未來大家談到人工智能領域的頂級公司不僅只想到 Google,也會談到百度。我想這點在今日應該已經實現了,中國人工智能領域處于前沿位置的公司就是百度。

 余凱與雷鳴漫談嵌入式人工智能 | 大牛講堂

▼新摩爾定律

今天我們不談深度學習的算法,而是去探討一個正在發(fā)生或是下一個發(fā)生的風暴是什么。我從2013年年底開始思考未來,認為未來有三大趨勢,第一個我稱之為新摩爾定律。摩爾定律在過去的二三十年推動整個全球科技界在向前發(fā)展。摩爾定律指每十八至二十四個月,計算機的成本會下降一半,性能則會提升一倍,使計算和應用不斷發(fā)展,按此規(guī)律推算,到2045年,每1000美元可以買到的計算資源幾乎就等同于今天人腦的計算能力,即目前天河二號的計算能力,天河二號的功耗為1000萬瓦,而人腦只有20瓦。

到2045年是不是會這樣呢?Intel 已經于去年正式宣布摩爾定律已經守不住了,速度已經放緩。那么到底是什么因素會去推動整個計算向前發(fā)展呢?

整個摩爾定律已經在按另外一個軌道在發(fā)展,已經不是每個單位面積上晶體管的數目,而是架構的改進,使得計算由邏輯運算向人工智能運算演進。那么人工智能運算是提升 CPU 工藝向前發(fā)展,還是設計一個新架構,這是個問題。

讓我們來看一下人腦是怎樣工作的。我們的人腦是 general 的、像 CPU 一樣的 computer,還是一個 special purpose 的 computer?人腦是一個特殊硬件還是一個通用計算的硬件?認為是通用計算的請舉手(不少同學都舉起手來)。

還是有不少同學這么認為。人腦確實很發(fā)達,有很強的計算能力,但如果你認為這樣人腦就是通用計算的硬件了,那我來問一下,你看你能回答這個問題嗎?(PPT 上顯示:1729×568=?)你會發(fā)現,面對這樣一個簡單的問題,你會覺得如此的無奈。你會發(fā)現,人腦不是無所不能的,它的能力明顯有邊限。

當然人腦有它擅長的東西,比如這個(PPT 上出現了一段在一定程度上打亂了順序的文字,現場觀眾驚訝地發(fā)現,這并不影響閱讀,甚至有人都沒有發(fā)現順序被打亂了)。

我們發(fā)現,原來大腦是這么奇妙,這么特殊,它的機制可能和現在顯示器的逐行掃描、順序掃描是完全不同的機制。它對圖像是并行處理的,因此對順序是不敏感的。但是背后又有一個 language model,還有一個類似于 recurrent neural net 的東西在進行 correct。

我們發(fā)現,原來人腦是有所長、有所短的。在漫長的進化過程中,人在不斷地發(fā)展和自己生存有關的能力,而和生存無關的能力,發(fā)展則是不足的。所以說,人腦是一個特殊設計的硬件。同時人腦還有很多個不同的子系統(tǒng),比如有一部分是專門對聽覺優(yōu)化的,有一部分是專門對視覺優(yōu)化的,前幾年有一個獲得諾貝爾獎的發(fā)現,發(fā)現人腦中有一塊是專門負責定位的,相當于 GPS。 

我們看到,如果我們做通用處理器,做 CPU,那么它可能非常 flexible,因為它可以做很多任務。但它整個 efficiency 并不高。但如果針對每個人物做專門的優(yōu)化,會把 efficiency 提高兩到三個數量級。

給大家講一個我自己經歷的故事。2011年,谷歌大腦的項目,當時都是用 CPU 來做的計算。當時我們加入百度,開始在百度做深度學習計算,用的是 GPU。我們私下里不斷的比較,比較 CPU 跟 GPU 的效率。

2012年的 GPU 比 CPU 效率大概要快四十倍左右,但是 Google 的一些人告訴我們,他們的 CPU 優(yōu)化的非常好,據說能達到 CPU 跟 GPU 只是六倍的difference。但是我們覺得很難相信,這一點就跟我們的數據太不一樣了。我們覺得 GPU 做深度神經網絡的性能明顯要更高嘛。不管怎么說,我們開始 launch 我們的系統(tǒng),大規(guī)模使用 GPU 來做計算,到后來證明我們是對的。Google 后來也開始大規(guī)模地使用GPU。

所以實際上,百度比 Google 更早使用 GPU。所以 Andrew 在2014年5月份加入百度,他接受采訪時說,當時加入百度的原因,當然除了余凱,另外還有一個原因,就是可以隨便買 GPU。

到了14年,廣告系統(tǒng)上線跟語音系統(tǒng)上線都需要實時計算,并且它的流量特別大,特別是廣告,這種情況下 CPU 跟 GPU 其實都扛不住,所以我們當時用 FPGA 去做專門的硬件加速。這時我們更加清醒地認識到,硬件對計算力有多么重要。

▼從中心到邊緣

好,我們現在看另外一個趨勢,這個趨勢就是從中心到邊緣。

我們可以看到從 PC 互聯(lián)網到移動互聯(lián)網到 internet of smart things,實際上對 AI 的要求越來越高。對 PC 互聯(lián)網來說,對 AI 的要求其實沒有那么高,但在移動互聯(lián)網上,這種要求出現了。

比如說最近我們看到今日頭條的新聞,它跟百度一個很不一樣的地方是百度是即搜即得,而今日頭條是不搜即得。這個“不搜即得”,在移動設備上,因為它有一個主動去做推薦的機制,使得人機交和信息的獲取更加智能更加的高效。未來,這些移動設備上,會有越來越強的AI需求。我們有很多的計算,會從數據中心往這些移動設備上去轉移。在這些設備上,做 perception,做人機交互,還有決策等事情。

這些計算要求 low latency,沒有延遲,并且是實時的,low power,low cost,并且是 privacy protect 的。比如這在汽車上面,就是一個很大的一個應用場景——不可能前面有小孩子突然橫穿馬路,你還要把數據傳上數據中心,處理完了以后再傳回來,這是不可想象的。所以一定要本地計算,要實時處理沒有延遲。

很多移動設備,比如 Amazon 的 Echo,就是把很多計算往邊緣設備上去推,使得它整個的用戶體驗會更好,這也是未來的一個趨勢。又比如監(jiān)控攝像頭,中國去年一共部署了一億個。監(jiān)控攝像頭的資料,其實存3個月就扔掉了。未來,對于所有這些攝像頭,都會有專門的處理器,去處理實時的視頻,這是一個大的趨勢。

孫正義認為,很多計算未來會在邊緣進行,邊緣的這些設備上的計算,使得這些設備變成了機器人。他認為,15年以后,機器人的數目會超過人類,達到一百億個。孫正義基正是基于這樣一個邏輯,他以極高的溢價收購了英國的 ARM,300多億美金。所以這是以 VC 的思維去做幾百億美金的巨型并購。

▼邊緣的競賽

第三個趨勢,是在邊緣的競賽,就是更快更高更強。比如今天的每輛車,有1個攝像頭,就是倒車的攝像頭,但未來的自動駕駛是平均8到12個攝像頭。Tesla 的新車上,已經有8個攝像頭了。然后每個攝像頭,會從720P的解析度到1080P的解析度,到高清的4k,因為解析度越高,你可以看得更遠。

另外一點,未來的10到20年時間,因為自動駕駛技術的發(fā)展,會使得高速公路上的汽車的平均的速度從100公里每小時到接近它的物理的極限——200公里每小時,速度會越來越快,這是一個 global trend,這要求處理的數據量持續(xù)增長,所以在邊緣上,計算會持續(xù)的追求更快更高更強,這是一個新的競賽。

未來的5到10年,最具顛覆性的產業(yè)機會是什么?我跟大家分享一下我的思考。通常來講,產業(yè)機會分成兩個階段,通常的話,我們會看到,首先是一波2B的機會。2B的機會,就是 Enabling Technology,公司就是做 technology 本身的。它是提供槍炮彈藥的,給誰提供呢?給第二波的機會提供。第二波的機會是什么呢?就是 Technology-enabled Business。當然這些都是2C的。2B就是給 Enterprise 提供服務。這些 Enterprise 再去捕捉 consumer-orient 的機會。這個 pattern確實在歷史上反復發(fā)生。

舉一個例子,當年 PC 互聯(lián)網剛出現的時候,時間是在90年代末,那時沒有一家互聯(lián)網公司是掙錢的,大家都看到了這里面存在機會,但在這個階段,首先要做的工作是把架構、網絡給做起來吧?  所以 CISCO 這樣的公司會表現得更好。另外也會有一些2B的培訓師等等,這個階段整體上屬于為B端造槍造炮提供彈藥的階段,這算是一種曲線救國吧。

然后才有2C的大的互聯(lián)網公司的出現,比如 Google。再比如移動互聯(lián)網,首先要有 CDMA 這樣的軟件算法,放在芯片里面,使每個移動設備 stay connected。然后才是 Apple 這樣的公司的崛起。中國的大部分投資者、創(chuàng)業(yè)者和企業(yè)家,他們看重的就是這樣一波機會。

在我們進入這個市場的時候,美國人把這些基礎技術已經做完了,從2000年開始到今天,我們是在享受上個世紀八九十年代科技成長的所帶來的的一個環(huán)境,然后我們去做了這些用戶導向的企業(yè)。

但今天我們去看這個整個這個創(chuàng)業(yè)環(huán)境,2C的這種創(chuàng)新其實代價已經非常的高昂,比如嘀嘀融了上百億美元,美團也有幾十億美元,這個投資其實越來越沉重。其實你想想看,當時 Google 只融了兩千萬美元就上市了,百度差不多也就是千萬美元,騰訊也是如此。在那個時候其實有大把的機會去捕捉。但是現在的話呢?八九十年代技術創(chuàng)新所帶來的這些能力其實已經被發(fā)掘的差不多了,所以我們會發(fā)現創(chuàng)新越來越沉重。

▼未來的機會

好,然后我們來看一下未來的機會。過去的12個月里,大概近半年的時間里,我們看到整個高科技行業(yè)有一個機會,今天所有的這個二級市場投資者都開始研究它、關注他,這個讓他們覺得很 surprised。因為在整個高科技市場比較低迷的時候,有一只股票是 NVIDIA,從20塊錢到現在漲到差不多100塊錢,曾經一度到119塊,在過去一年多的時間里成長了5倍,是整個高科技市場成長速度最快的一個機會。這里面核心的邏輯其實很簡單,他就是造槍造炮嘛。

現在很多企業(yè),無論大小,即使不知道深度學習用來干什么,怎么掙錢,大家都要去搶購 GPU 這些。所以我們也非??粗剡@點,希望做一個深度神經網絡的這種處理器,讓大家能夠利用這些軟硬件結合的解決方案。

我們從一個更大的尺度來看,這是今年市值排名前20名的高科技公司,我們可以看到里面有8家是互聯(lián)網公司,還有8家是半導體公司。大家不要只看互聯(lián)網公司,其中有非常非常硬的科技公司,他們是很賺錢很賺錢的。八家硬科技公司里面成長得最快的兩家,一家是 NVIDIA,一家是 AMD。

我們做深度學習的處理器也是因為看到了這種趨勢,就是軟件算法跟人工智能和半導體的結合會催生爆發(fā)式的成長。我們的關注點是加速 inference 的效率,打造低功耗高性能的解決方案,讓很多 device 端也具有人工智能的能力。

如果把我們去和硬件廠商相比較,他們去優(yōu)化的是 number of operation per cost,但我們去優(yōu)化的是什么呢?我們不是一個傳統(tǒng)的硬件廠商,我們實際上是軟硬結合的2B的生意,我們優(yōu)化的是 performance per cost。

我們首先從系統(tǒng)的角度來做優(yōu)化,我們會設計專門軟件算法的實驗過程,然后根據這個軟件算法來設計一個硬件的架構,然后再用這個硬件架構,去優(yōu)化我們的軟件,最后通過 compiler 和 runtimelibrary 使軟硬件之間的差距更小。還有一個理念很重要,就是不要關注籠統(tǒng)的問題,而是要解決具體的任務,否則復雜程度會讓你難以駕馭。通過軟硬件優(yōu)化,我們可以把性能提升兩到三個數量級。

我為什么認為這個非常重要?跟大家分享我自己的親身經歷,這是當時百度第一輛自動駕駛汽車,把這個后備箱打開,可以看到里面全是機器,最早里面有好多飛線,現在已經做得很好了。但是散熱問題還沒有解決。

到今天為止,無論是百度還是 Google 的無人駕駛汽車,這些自動駕駛的車每開兩個小時就要停下來散熱,因為里面熱得受不了。冬天完全不需要開空調暖風。

這個問題為什么難解決?功耗為什么降不下來?因為你沒有從系統(tǒng)級的層面來優(yōu)化整個東西。軟件框架不斷往前迭代,硬件架構也需要相應迭代,感知能力極大提升。自動駕駛繼續(xù)發(fā)展的話,會發(fā)現感知能力不是最主要的,最主要的問題變成決策。

自動決策方面的復雜程度超出想象。我們的目標是打造一款芯片,功耗和成本只有目前市面上頂尖處理器的幾十分之一,但性能為其兩三倍。在下個月德國柏林的 BCW 會議上我們也會分享我們在自動駕駛方面軟件算法和處理器架構的進展。

喬布斯在手機上實現了去掉鍵盤和鼠標操控,在平板上去掉了書寫筆,而我們的目標就是用五年的時間把所有遙控工具全部去掉,完全實現人體感知,想要實現這一年就需要完全重構軟件和硬件,讓處理器和真?zhèn)€系統(tǒng)的功耗足夠低,體積足夠小。我們不僅僅是做軟件算法,我們專注于自動駕駛,智能家居和公共安全這三個垂直市場,未來幾年這三個市場都會爆炸式的增長。

▼關于人才

最后我想分享一下,人工智能改變世界,真正改變人工智能,改變世界的是人才。人工智能目前最缺的就是人才。這是我第一次在業(yè)界發(fā)表我的判斷和看法,我相信跟你們在媒體上看到的都很不一樣,我愿意分享的原因就是我覺得雷鳴老師做的這一個研究中心非常有意義,因為我們缺乏的就是人才。

我在斯坦福教課的時候有個學生,目前幾家全球前五十的人工智能公司都提到他做的公司。其實他這個公司初始的一個想法是當時上我課的時候完成的一個項目。他當時設計了一個簡易的機器人來自動識別蔬菜地的雜草并用生態(tài)的方式除草,本意是希望解決加州菜農雇傭大批墨西哥非法移民除雜草的社會問題,同時獲實現無污染的蔬菜種植。基于此想法,他日后真的做成了一個公司,今日美國有10%的生菜地都在使用他的機器人除草。能通過我與學生的交流幫助一些年輕人做成一些事情,對此我也感到很驕傲。 

我過去還帶過兩個學生,一個后來在密歇根大學做教授,另一個目前是深度學習領域的旗手。楊健朝是我當年帶過兩年的實習生,當時我們倆合著的計算機視覺的論文在 CVPR 引用次數達到兩千多次,在這次會議中全球引用率最高。另一個實習生周曦,目前是中國最好的一家人臉識別公司云從科技的 CEO。賈楊清的導師推薦他來跟我做深度學習,今天他開發(fā)的Caffe 在業(yè)界已經如雷貫耳。李沐是我當初招募的百度 IDL 少帥學者,他開發(fā)的 MXNET 是亞馬遜云計算的官方深度學習平臺,影響世界的年輕人,非常了不起。另有兩名百度少帥學者李磊,今日頭條實驗室主任,和顧嘉唯,麻省理工學院全球TR35創(chuàng)新者。

所以我鼓勵年輕人來地平線實習和工作,我相信地平線現在所做的事情是站在時代前沿,提供足夠激動人心的成長和學習機會。 

我們做的事情從軟件到硬件,到編譯器,到操作系統(tǒng),去改變駕駛,改變機器人,去應用到未來的方方面面。我覺得我也愿意去跟大家一起去成長。我們對于增量性的創(chuàng)新沒有興趣,我們要做的是顛覆性的創(chuàng)新。這就是我今天的分享。謝謝!

雷鳴對話余凱:人工智能的邊緣機會

我們從演講實錄中特別拈出“嵌入式人工智能——從邊緣開始的革命”這一話題,為讀者呈現當日課程的精彩片段。

▼邊緣機會將會是未來的風暴

宣講一開始,余凱老師首先表示,他是來講干貨的。當你剛以為他要走技術路線,他卻又說,今天他也不談深度學習、生成對抗網絡等等。他希望和大家分享的是他的“思考”。這一思考的對象,就是嵌入式人工智能。

他認為目前嵌入式人工智能不在數據中心,不在云上面,而是處在互聯(lián)網的邊緣?!案锩鶑倪吘夐_始,”余凱老師說,“星星之火,可以燎原。”他舉了農村包圍城市的例子。“深度學習幾年前還處在一個邊緣的地位,而今已經成為風暴的中心。

今天我們的人工智能計算,大部分都在BAT的數據中心,在云上面,而我今天要向大家展示的,正是這樣一個邊緣機會,它遠離BAT,遠離云,卻是一個正在形成的風暴。”

對于這個形成中的風暴,余凱老師從兩個角度進行了表述,或者說論證,首先是商業(yè)的角度。余凱老師認為,從人工智能當前的發(fā)展情況看,應用的場景首先是to B,然后才是to C。這一路徑在PC互聯(lián)網的崛起和移動互聯(lián)網的崛起過程中都看得很清楚。

“比如90年代末,那時沒有一家互聯(lián)網公司是掙錢的,大家都看到了這里面存在機會,但在這個階段,首先要做的工作是把架構、網絡給做起來吧?  所以 CISCO 這樣的公司會表現得更好。然后才有to C的大的互聯(lián)網公司的出現,比如 Google。再比如移動互聯(lián)網,首先要有 CDMA 這樣的創(chuàng)新,高通把這樣的軟件算法放在芯片里面做to B的生意,然后才是 Apple 這樣的to C公司的再次崛起。中國的大部分投資者、創(chuàng)業(yè)者和企業(yè)家都是2000年以來成長起來,只看到這樣一波to C的機會,而不太了熟悉美國80-90年代核心技術突破而導致的to B的巨大機會?!?/p>

▼什么是“邊緣機會”

“我們從一個更大的尺度來看,這是今年市值排名前20名的高科技公司,我們可以看到里面有8家是互聯(lián)網公司,還有8家是半導體公司。大家不要只看互聯(lián)網公司啊,其中有非常非常硬的科技公司,他們是很賺錢很賺錢的!”

余凱老師點明了他認為的“邊緣機會”:“如果把我們去和硬件處理器廠商相比較,他們去優(yōu)化的是什么?是單位成本下的計算性能,但我們去優(yōu)化的是什么呢,我們不是一個傳統(tǒng)的硬件廠商,我們實際上是軟硬結合的toB的生意,我們從系統(tǒng)的角度來做優(yōu)化,我們會設計專門軟件算法的實驗過程,然后根據這個軟件算法來設計一個硬件的架構,然后再用這個硬件架構,去優(yōu)化我們的軟件?!?/p>

正如前文所說,余凱老師認為的邊緣機會,是人工智能領域to B的系統(tǒng)優(yōu)化服務,具體來說,可以表述為嵌入式專用人工智能系統(tǒng),其物理形式,可能是一個小小的芯片。但其中蘊含了軟硬件結合聯(lián)合優(yōu)化的復雜過程。

“我為什么認為這個非常重要?跟大家分享我自己的親身經歷,這是當時百度第一輛自動駕駛汽車,把這個后備箱打開,可以看到里面全是機器,最早里面有好多黑線,當然現在已經做得很好了。但是散熱問題還沒有解決。到今天為止,無論是百度還是 Google 的無人駕駛汽車,這些自動駕駛的車每開兩個小時就要停下來散熱,因為里面熱得受不了。冬天完全不需要開空調暖風。這個問題為什么難解決?功耗為什么降不下來?因為你沒有從系統(tǒng)級的層面來優(yōu)化整個東西。軟件框架不斷往前迭代,硬件框架需要相應迭代,這個架構的優(yōu)化是非常復雜的,復雜到超出想象。”

▼尋找出路:軟硬件的聯(lián)合優(yōu)化

 “如何定義嵌入式系統(tǒng)和通用計算系統(tǒng)?你現在的項目,是一種非常專用的小芯片,還是有很大的通用性?” 雷鳴老師的問題一開始波瀾不驚。

余凱老師回應:“隨著新的摩爾定律的出現,我們會看見越來越多的專用架構設計,因為它必須針對特殊的任務去做專門的優(yōu)化,比如我們有專門的視覺神經網絡,它的結構跟聽覺神經網絡其實是很不一樣的,跟我們負責定位的大腦部分其實也很不一樣。

“當你的計算能力很難繼續(xù)突破的時候,比如說量子計算還沒有實現的時候,只有進行專門的優(yōu)化,我們才能夠繼續(xù)往前奔跑,去實現特定場景下面的摩爾定律。所以,我認為我們會朝特殊定制化這個方向去走,但是這種特殊定制化的任務其實也沒有太多,比如我們的大腦功能,也就是基本的視覺、聽覺、三維感知等。所以說專門化是嵌入式的一個本質特征。

“另外一點,就是低功耗,一定要低!無人機本來可以飛個兩個小時,結果只能飛3分鐘。再比如汽車,因為的新能源汽車其實都是燒電池的,跑5百公里和只能跑50公里,這是很不一樣的。所以這方面如果不去做這種專門的優(yōu)化,未來的電動車也很難往前發(fā)展。

“另外我認為這里需要軟件跟硬件的聯(lián)合優(yōu)化,聯(lián)合優(yōu)化是什么意思呢?本質上來講,應該是一個軟件,比如地平線本質上是一個軟件公司,但我們只不過是把一部分東西給硬件化了而已。所以我基本上總結了3個方面。第一,專業(yè)化,使摩爾定律繼續(xù)往前;第二,低功耗,低功耗,低功耗!第三,軟硬結合?!?/p>

▼如何看待理想和現實的矛盾

“專業(yè)化過程中需要解決問題,比如解決聽覺方面的問題。解決完之后,我們又進行軟硬結合,但現在算法迭代,速度非???,那么硬件化之后,新的算法怎么辦?會不會我們這批東西出來以后,過了半年,其實它的性能比起新的東西,已經差了很多。這個矛盾在實際過程中是怎么去應付的?

余凱老師回應:“對,這是做硬件的一個很大的風險。軟件算法不斷的每3個月往前去迭代,3個月以后的最好的算法跟現在比又很不一樣,所以硬件投入的話資金成本很高,一個處理器從投入到最后形成戰(zhàn)斗力要3年時間,這個時間跟你投多少錢沒關系,因為你必須得一步一步從架構到設計,然后到驗證到后端到封裝等等。

“還包括軟件,包括系統(tǒng)軟件,所以這個迭代的速度非常的慢,這很難駕馭。像我們的話,實際上,都是軟件跑到前面,我們基本上把很多軟件算法的研發(fā)都已經跑到明年了,我覺得創(chuàng)業(yè)就是要賭。如果什么東西都看到,完全放在桌面上,你才去做的話,那不叫創(chuàng)業(yè),那叫工作?!?/p>

雷鳴老師談了自己的想法:“我談談我自己的一點想法,剛才看到你說了新的架構,我們從性能到成本,再到所謂的效果上來看,我剛才算了一下,你在性能上能取得很大提升對吧?我們說摩爾定律基本上一兩年也就翻一翻,所以我覺得,感覺上如果你做專用的東西,比起通用的,其實在很多地方,一兩年的時間還是有的,這是做這件事的優(yōu)勢。第二點,我在想,如果說你有通用計算加軟件優(yōu)勢的話,硬件其實大家都是一樣的。所以,你比別人先做,那你就是有優(yōu)勢的?!?/p>

余凱老師表示認同:“對,推動解決方案,比起單獨的專用硬件,一個明顯的困難是在執(zhí)行層面。困難在于節(jié)奏感,要是一下錯位了,成本跟時間的投入就讓創(chuàng)業(yè)者一下子萬劫不復。這本來就很難,創(chuàng)業(yè)本來就是在刀鋒上面行走?!?/p>

雷鳴老師則繼續(xù)指出這一邊緣機會的另一優(yōu)勢:“我覺得好在,也許你在這個這個路上走的時候并沒有那么多人跟你競爭,所以,中間的話我覺得還能讓我們去犯一些錯誤。而如果現在在做移動互聯(lián)網時犯任何一個小錯,機會就沒有了?!?/p>

—END—

點擊觀看課程回放

雷鋒網按:本文由地平線大牛講堂授權發(fā)布,如需轉載請聯(lián)系原作者,并注明作者和出處,不得刪減內容。有興趣可以關注公號【地平線機器人技術】,了解最新消息。

雷峰網特約稿件,未經授權禁止轉載。詳情見轉載須知

 余凱與雷鳴漫談嵌入式人工智能 | 大牛講堂

分享:
相關文章

地平線機器人技術

嵌入式人工智能全球領導者
當月熱門文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經綁定,現在您可以設置密碼以方便用郵箱登錄
立即設置 以后再說