0
雷鋒網(wǎng) AI科技評(píng)論消息，繼微軟和Facebook聯(lián)手發(fā)布ONNX開(kāi)源生態(tài)標(biāo)準(zhǔn)，日前，微軟和亞馬遜又達(dá)成一致，攜手發(fā)布Gluon深度學(xué)習(xí)庫(kù)。
據(jù)微軟方面表示，Gluon是一個(gè)深度學(xué)習(xí)庫(kù)（接口），它是一個(gè)支持符號(hào)式和命令式編程的API，在創(chuàng)造深度學(xué)習(xí)模型的過(guò)程中能極大的簡(jiǎn)化進(jìn)程，而不會(huì)使訓(xùn)練速度減慢。Gluon也將支持CNTK（Microsoft Cognitive Toolkit）深度學(xué)習(xí)庫(kù)。Gluon為開(kāi)發(fā)者提供的高級(jí)KPI能讓他們交替運(yùn)行不同的深度學(xué)習(xí)庫(kù)。
Gluon具體介紹
Gluon用于構(gòu)建神經(jīng)網(wǎng)絡(luò)，很簡(jiǎn)潔，是一個(gè)動(dòng)態(tài)的高級(jí)深度學(xué)習(xí)庫(kù)（接口），在使用MXNet和CNTK時(shí)都可以調(diào)用它，微軟Azure的所有服務(wù)、工具和基礎(chǔ)結(jié)構(gòu)也將全面支持Gluon。Gluon為開(kāi)發(fā)者提供的接口非常好用，它支持高度可擴(kuò)展的訓(xùn)練，能高效的評(píng)估模型。對(duì)于經(jīng)驗(yàn)老道的研究人員來(lái)說(shuō)，在發(fā)揮Gluon的優(yōu)勢(shì)時(shí)完全不會(huì)犧牲靈活性。對(duì)于一些公司、數(shù)據(jù)科學(xué)家和開(kāi)發(fā)者來(lái)說(shuō)，Gluon支持一些高級(jí)API和預(yù)建/模塊化的構(gòu)件，很簡(jiǎn)潔，并且非常適用于深度學(xué)習(xí)。
Gluon的主要特征和好處
Gluon能讓開(kāi)發(fā)者更簡(jiǎn)單的學(xué)習(xí)、規(guī)定和調(diào)試深度神經(jīng)網(wǎng)絡(luò)，也可以讓接下來(lái)的迭代和保持更加簡(jiǎn)單，也支持開(kāi)發(fā)作者快速構(gòu)建和訓(xùn)練神經(jīng)網(wǎng)絡(luò)，主要的亮點(diǎn)如下：
符號(hào)式和命令式編程
對(duì)于高級(jí)用戶，Gluon支持很多復(fù)雜技術(shù)，如動(dòng)態(tài)圖和靈活結(jié)構(gòu)。目前還沒(méi)有同時(shí)支持符號(hào)式和命令式編程的其他工具包。
Hybridization
Gluon包含完全的符號(hào)化的自動(dòng)微分代碼，這些代碼已經(jīng)被程序執(zhí)行了，也包括控制流。
Gluon通過(guò)hybridization實(shí)現(xiàn)這一點(diǎn):靜態(tài)計(jì)算圖先被計(jì)算出來(lái)，然后在隨后的迭代中緩存和重用。計(jì)算圖也可以被導(dǎo)出，例如給移動(dòng)設(shè)備提供服務(wù)。
規(guī)定復(fù)雜模型
Gluon自帶一個(gè)豐富的內(nèi)嵌層庫(kù)，通過(guò)重用庫(kù)中預(yù)建的構(gòu)件，可以大大簡(jiǎn)化規(guī)定復(fù)雜模型架構(gòu)的任務(wù)。
執(zhí)行高效
Gluon支持循環(huán)和不規(guī)則張量（ragged tensors）(能批處理變長(zhǎng)度序列)，對(duì)于RNN和LSTM模型具有空前的效率。
支持稀疏數(shù)據(jù)
Gluon提供對(duì)稀疏和量化數(shù)據(jù)及操作的全面支持，可以用于計(jì)算和通信。稀疏性在NLP領(lǐng)域的深度神經(jīng)網(wǎng)絡(luò)中非常常見(jiàn)，而量化對(duì)于運(yùn)行時(shí)性能評(píng)估至關(guān)重要。
先進(jìn)的調(diào)度
雖然在單個(gè)GPU上進(jìn)行調(diào)度很容易，但在多個(gè)GPU上操作要復(fù)雜得多。通過(guò)MXNet或CNTK后端，Gluon在符號(hào)式和命令式模式下都提供自動(dòng)分配。
總結(jié)
利用Gluon，開(kāi)發(fā)者將能使用他們最喜歡的高級(jí)編程模型、工具和平臺(tái)，更快地傳遞一些新的、令人興奮的創(chuàng)新AI觀念。Gluon將和ONNX（能支持用戶用標(biāo)準(zhǔn)格式創(chuàng)造和保存AI模型）一起，創(chuàng)造一個(gè)全新的開(kāi)放AI生態(tài)。期待大家利用這些工具帶來(lái)更多更好的想法。
關(guān)于ONNX，可以參見(jiàn)雷鋒網(wǎng) AI科技評(píng)論此前報(bào)導(dǎo)：Facebook、微軟聯(lián)合推出 ONNX 標(biāo)準(zhǔn)，號(hào)稱要解決開(kāi)發(fā)框架碎片化。
目前在MXNet上已經(jīng)可以使用Gluon接口了，可以在GitHub上查看詳情，地址為：
https://github.com/gluon-api/gluon-api/
微軟也表示他們即將推出支持CNTK的版本，雷鋒網(wǎng) AI科技評(píng)論也將持續(xù)關(guān)注，為大家?guī)?lái)最新消息。
雷鋒網(wǎng) AI科技評(píng)論編輯整理。
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
