0
本文作者: 我在思考中 | 2021-10-27 14:31 |
人工智能從5、6年前的 “黑科技”變成了今天的“熱科技”,背后離不開(kāi)算力支撐能力的巨大飛躍。2020年以GPU為代表的AI加速芯片所交付的計(jì)算力總和已經(jīng)超過(guò)了通用CPU,預(yù)計(jì)到2025年,加速芯片所提供的計(jì)算力可能超過(guò)80%??梢哉f(shuō),人工智能的規(guī)?;l(fā)展,算力已經(jīng)成為決定性的力量,智慧計(jì)算是智慧時(shí)代的核心生產(chǎn)力。
“人工智能帶來(lái)指數(shù)級(jí)增長(zhǎng)的算力需求,計(jì)算產(chǎn)業(yè)正面臨著多元化、巨量化、生態(tài)離散化交織的趨勢(shì)與挑戰(zhàn)。一方面多樣化的智能場(chǎng)景需要多元化的算力,巨量化的模型、數(shù)據(jù)和應(yīng)用規(guī)模需要巨量的算力,算力已經(jīng)成為人工智能繼續(xù)發(fā)展的重中之重;另一方面從芯片到算力的轉(zhuǎn)化依然存在巨大鴻溝,多元算力價(jià)值并未得到充分釋放。如何快速完成多元芯片到計(jì)算系統(tǒng)的創(chuàng)新,已經(jīng)成為推動(dòng)人工智能產(chǎn)業(yè)發(fā)展的關(guān)鍵環(huán)節(jié)?!痹?0月16日舉行的2021人工智能計(jì)算大會(huì)(AICC2021)上,中國(guó)工程院院士、浪潮首席科學(xué)家王恩東闡釋了計(jì)算系統(tǒng)創(chuàng)新在計(jì)算到智算轉(zhuǎn)變的產(chǎn)業(yè)新格局下的重大意義。
多元芯片到算力轉(zhuǎn)化,計(jì)算系統(tǒng)創(chuàng)新是關(guān)鍵
隨著人工智能在算法領(lǐng)域的不斷突破,不同數(shù)值精度帶來(lái)了跨度更大的計(jì)算類型,對(duì)計(jì)算芯片指令集、架構(gòu)的要求更加細(xì)分。圖靈獎(jiǎng)獲得者 John Hennessy和 David Patterson共同發(fā)表的《計(jì)算機(jī)架構(gòu)的新黃金時(shí)代》中提出:當(dāng)摩爾定律不再適用,一種更加以硬件為中心的DSA(Domain Specific Architecture)架構(gòu)設(shè)計(jì)會(huì)成為主導(dǎo),這種設(shè)計(jì)的核心在于針對(duì)特定問(wèn)題或特定領(lǐng)域來(lái)定義計(jì)算架構(gòu)。基于DSA思想設(shè)計(jì)的AI芯片,在特定AI工作負(fù)載上表現(xiàn)出遠(yuǎn)超通用芯片的處理能力,大大推動(dòng)了AI芯片的多元化發(fā)展。
芯片的多元化為產(chǎn)業(yè)AI化的加速提供了重要的產(chǎn)業(yè)基礎(chǔ)和更加豐富的選擇。但是,芯片從造出來(lái)到大規(guī)模用起來(lái),還隔著一個(gè)巨大的產(chǎn)業(yè)鴻溝。一方面,算力的供給需要構(gòu)建算力平臺(tái),需要解決架構(gòu)設(shè)計(jì)、核心部件、高速互聯(lián)、散熱設(shè)計(jì)等一系列問(wèn)題。以一臺(tái)AI服務(wù)器研制為例,整個(gè)系統(tǒng)需要經(jīng)過(guò)30 多個(gè)開(kāi)發(fā)流程,使用150 多種加工制造工藝,對(duì)280多個(gè)關(guān)鍵過(guò)程控制點(diǎn)的質(zhì)量進(jìn)行嚴(yán)格把控,并且還要實(shí)現(xiàn)與算法框架和AI應(yīng)用的優(yōu)化和適配等問(wèn)題;另一方面,面對(duì)大規(guī)模AI算力部署,AI算力平臺(tái)建設(shè)又面臨高功耗、高電流密度、高總線速率、高系統(tǒng)復(fù)雜度的新問(wèn)題。
“我們能造出性能強(qiáng)大的火箭發(fā)動(dòng)機(jī),但要想造出安全、高性能的運(yùn)載火箭,還要在循環(huán)、控制、結(jié)構(gòu)等很多領(lǐng)域做大量的工作。芯片到計(jì)算系統(tǒng)同樣如此,需要完成體系結(jié)構(gòu)、信號(hào)完整性、散熱、可靠性等大量系統(tǒng)性設(shè)計(jì)工作?!?strong>王恩東院士用生動(dòng)形象的比喻,詮釋了芯片到算力轉(zhuǎn)化過(guò)程中計(jì)算系統(tǒng)創(chuàng)新的價(jià)值所在。
以巨量模型為代表的巨量化是AI發(fā)展的重大趨勢(shì)
“人工智能如何發(fā)展出像人類具備邏輯、意識(shí)和推理的認(rèn)知能力,是人工智能研究一直在探索的方向。目前來(lái)看,通過(guò)大規(guī)模數(shù)據(jù)訓(xùn)練超大參數(shù)量的巨量模型,被認(rèn)為是非常有希望實(shí)現(xiàn)通用人工智能的一個(gè)重要方向?!?strong>王恩東院士認(rèn)為,隨著巨量模型的興起,巨量化已成為未來(lái)人工智能發(fā)展非常重要的一個(gè)趨勢(shì)。
目前,全球知名的AI領(lǐng)先公司在巨量模型上都予以重兵投入,谷歌、微軟、英偉達(dá)、浪潮、智源研究院、百度、阿里等公司相繼推出了各自的巨量模型。
巨量化的一個(gè)核心特征就是模型參數(shù)多、訓(xùn)練數(shù)據(jù)量大。以浪潮人工智能研究院開(kāi)發(fā)的全球最大規(guī)模的中文AI巨量模型“源1.0”為例,其參數(shù)量高達(dá)2457億,訓(xùn)練數(shù)據(jù)集規(guī)模達(dá)到5000GB。相比GPT3模型的1750億參數(shù)量和570GB訓(xùn)練數(shù)據(jù)集,“源1.0”的參數(shù)規(guī)模增加了40%,訓(xùn)練數(shù)據(jù)集規(guī)模增加近10倍。
此外,巨量化也表現(xiàn)在模型應(yīng)用規(guī)模大。互聯(lián)網(wǎng)頭部公司的AI開(kāi)放平臺(tái)已經(jīng)吸引了超百萬(wàn)的AI開(kāi)發(fā)者,這些AI開(kāi)放平臺(tái)每天承載著數(shù)萬(wàn)億次的調(diào)用量,數(shù)百萬(wàn)小時(shí)的語(yǔ)音識(shí)別,超過(guò)百億張圖像識(shí)別,超過(guò)萬(wàn)億句自然語(yǔ)言理解等等。如此巨量的調(diào)用對(duì)算力中心的應(yīng)用支撐能力帶來(lái)了極大的挑戰(zhàn)。
生態(tài)離散化制約AI上水平、上規(guī)模、上臺(tái)階
“很多人會(huì)有這樣的困惑,人工智能那么好,但是怎么跟我的業(yè)務(wù)、應(yīng)用場(chǎng)景結(jié)合,想通過(guò)AI技術(shù)做智能化轉(zhuǎn)型,但是發(fā)現(xiàn)沒(méi)人懂算法,懂模型,也缺少好用的AI開(kāi)發(fā)平臺(tái)。同時(shí),算法模型那么多,如何找到不同算法在應(yīng)用中的最優(yōu)組合?懂這些的人,往往都集中在科研機(jī)構(gòu)或者頭部公司。這些地方集中了最優(yōu)秀的AI人才,但缺少對(duì)傳統(tǒng)行業(yè)的需求場(chǎng)景、業(yè)務(wù)規(guī)律的深入理解?!?strong>王恩東院士對(duì)當(dāng)前AI從技術(shù)到應(yīng)用面臨的困局做了形象的概括。
來(lái)自埃森哲的一份調(diào)研報(bào)告顯示,70%以上有技術(shù)的研究機(jī)構(gòu)、科技公司缺需求場(chǎng)景、缺領(lǐng)域知識(shí)和數(shù)據(jù),70%以上的行業(yè)用戶缺技術(shù)人才、缺AI平臺(tái)和實(shí)踐能力。
與此同時(shí),生態(tài)離散化也與AI芯片多元化的發(fā)展趨勢(shì)關(guān)系密切。目前,AI芯片架構(gòu)五花八門(mén),指令集不同,無(wú)法兼容,而面向芯片的編程庫(kù)又跟芯片綁定,靈活性差。小公司只做了其中一個(gè)環(huán)節(jié),這造成生態(tài)的縱向不通;大公司希望構(gòu)建封閉的系統(tǒng),這造成了生態(tài)的橫向不通。
王恩東院士認(rèn)為,目前人工智能的技術(shù)鏈條、產(chǎn)業(yè)鏈條是脫節(jié)的,生態(tài)離散化已成為制約人工智能技術(shù)上水平、應(yīng)用上規(guī)模、產(chǎn)業(yè)上臺(tái)階的瓶頸所在。
多元化、巨量化、生態(tài)化給整個(gè)計(jì)算產(chǎn)業(yè)帶來(lái)的挑戰(zhàn)是空前的。“要想釋放多元算力價(jià)值、促進(jìn)人工智能創(chuàng)新,一是要重視智算系統(tǒng)的創(chuàng)新,加大人工智能新型基礎(chǔ)設(shè)施建設(shè),把從技術(shù)到應(yīng)用的鏈條設(shè)計(jì)好,從體系結(jié)構(gòu)、芯片設(shè)計(jì)、系統(tǒng)設(shè)計(jì)、系統(tǒng)軟件、開(kāi)發(fā)環(huán)境等各個(gè)領(lǐng)域形成既分工明確又協(xié)同創(chuàng)新的局面;二是要加快推動(dòng)開(kāi)放標(biāo)準(zhǔn)建設(shè),通過(guò)統(tǒng)一的、規(guī)范的標(biāo)準(zhǔn),將多元化算力轉(zhuǎn)變?yōu)榭烧{(diào)度的資源,讓算力好用、易用?!?strong>王恩東院士強(qiáng)調(diào)說(shuō)。
雷鋒網(wǎng)
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。