雷鋒網(wǎng)按：這里是，雷鋒字幕組編譯的Two minutes paper專欄，每周帶大家用碎片時(shí)間閱覽前沿技術(shù)，了解AI領(lǐng)域的最新研究成果。

原標(biāo)題 Building Blocks of AI Interpretability - Two Minute Papers #234

翻譯 | 陳曉璇    字幕 | 凡江    整理 | 吳璇  逯玉婧

誰(shuí)再說(shuō)神經(jīng)網(wǎng)絡(luò)是黑盒，甩出這篇文章，給TA翻個(gè)白眼。

上周，谷歌Jeff Dean在推特上轉(zhuǎn)發(fā)了一句話“還認(rèn)為神經(jīng)網(wǎng)絡(luò)是黑盒嗎？要不再想想 :) ”。

還配上了《紐約時(shí)報(bào)》一篇名為《谷歌研究人正在搞懂機(jī)器學(xué)習(xí)》的文章。

點(diǎn)進(jìn)這篇文章發(fā)現(xiàn)，Jeff Dean意指論文《The Building Blocks of Interpretability》（譯名：可解釋性的基石）在神經(jīng)網(wǎng)絡(luò)可視化方面的新進(jìn)展。

研究由谷歌大腦研究員Chris Olah帶隊(duì)完成，創(chuàng)建了一套神經(jīng)網(wǎng)絡(luò)可視化方法。

左圖：可以被神經(jīng)網(wǎng)絡(luò)識(shí)別，比如說(shuō)，告訴我們圖片里有沒(méi)有花瓶或檸檬。

右圖：神經(jīng)網(wǎng)絡(luò)中間層的可視化呈現(xiàn)，能夠檢測(cè)到圖片中的每個(gè)點(diǎn)。

看起來(lái)，神經(jīng)網(wǎng)絡(luò)正在檢測(cè)，像花瓶的模型以及像檸檬的物體。

論文將獨(dú)立的神經(jīng)元、分類(lèi)歸屬與可視化結(jié)合，從而提供一種理解神經(jīng)元的方法。

我們通過(guò)觀察“神經(jīng)元可以被哪些圖像激活”，“神經(jīng)元在找哪些圖像“、“神經(jīng)元判定這個(gè)圖像屬于哪一類(lèi)“，可以判斷出“神經(jīng)元的最終決策及貢獻(xiàn)值“。

這個(gè)過(guò)程減少了神經(jīng)元的總數(shù)，并且將神經(jīng)元分解成一些小的語(yǔ)義組，得出有意義的解釋方法。在論文中被稱作“因式分解“或者“神經(jīng)元分組”。通過(guò)做這項(xiàng)工作，我們可以得到高度描述性的標(biāo)簽，賦予它們直觀的含義。

現(xiàn)在我們把一張圖片放到拉布拉多組，神經(jīng)網(wǎng)絡(luò)開(kāi)始觀察拉布拉多的耳朵、額頭、嘴巴還有毛發(fā)的組合。過(guò)程可以由一個(gè)活動(dòng)地圖來(lái)展示，通過(guò)觀察，我們可以輕松看到神經(jīng)元群組興奮點(diǎn)。

我們這里僅僅概括了論文的表面含義，論文中還有許多其他的成果和互動(dòng)的案例供大家賞析。

論文原址 https://distill.pub/2018/building-blocks/

---

更多文章，關(guān)注雷鋒網(wǎng) 雷鋒網(wǎng)

添加雷鋒字幕組微信號(hào)（leiphonefansub）為好友

備注「我要加入」，To be an  AI  Volunteer ！

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。