AI 研習社獲得官方授權，漢化翻譯CMU 2018 秋季《深度學習導論》課程，9月27日正式上線中文字幕版。

好消息！CMU 深度學習小組在 AI 研習社突破 700 人啦！

掃描二維碼 ↓↓↓ 即可加入~

春風十里，不如一起結伴學習；花前月下，不如互相成就學霸。

第四講

反向傳播

上手視頻約 7 分鐘 ▼

翻譯 |  翟修川 朱海浩 張寒萌 shunshun 

翻譯 | 圈圈 何正宇 鄰家小魚 張煒卓 Binpluto

校對 | 王凱旋

  字幕 | 凡江  

（想和譯者有更多交流？掃描上文二維碼來社區(qū)找他們愉快玩耍吧?。?br/>

同時，我們也希望在招募到更多的譯者參與到我們的課程翻譯中來，如果感興趣的話，可以填寫我們的麥客表單直接報名，備注CMU課程翻譯：

CMU 深度學習小組在 AI 研習社已經上線一段時間了，廣受各大社友的喜愛。電腦端點擊網址：http://ai.yanxishe.com/page/groupDetail/18

看到綠色按鈕【申請加入】，點擊即可提交申請或者直接加入。 

目前已經有 700+ 位學習小組成員成功在小組學習打卡。

我們新增【毅力榜】，為堅持不懈的你加油吶喊：

也會根據學員的課程觀看時長來排序【學霸榜】：

「小組」產品上線后，AI 研習社推出了一系列的激勵計劃，鼓勵各位組員學習視頻課程，表現積極的學員（例如上文中的「學霸」）還將獲得由 AI 研習社提供的福利，這些福利包括但不限于機械鍵盤、雙肩背包、AI慕課學院優(yōu)惠券以及 AI 研習社定制的「浪中求穩(wěn)」保溫杯。

心動了嗎，趕快加入學習小組吧！

PS：如果你對某門課程感興趣，想要看到漢化版的中文字幕，歡迎在留言區(qū)評論告訴我們這門課程的名字喲！

以下是課程相關簡介：

CMU 2018 秋季《深度學習導論》為官方開源最新版本，由卡耐基梅隆大學教授 Bhiksha Raj 授權 AI 研習社翻譯。9 月 27 日開始正式同步更新在 AI 研習社，跟隨官網課程節(jié)奏而更新。觀看網址：http://www.mooc.ai/course/562（長按下方二維碼或者點擊文末閱讀原文）

「深度學習」系統，以神經網絡為代表，逐漸應用于所有的 AI 任務，從語言理解，語音和圖像識別到機器翻譯，規(guī)劃，甚至是游戲電競和自動駕駛。結果是在許多高級學術環(huán)境中，深度學習的專業(yè)知識正從深奧晦澀的理想轉變?yōu)樾袠I(yè)必要的先決條件，并且在工業(yè)界的就業(yè)市場中占有非常大的優(yōu)勢。

在本課程中將會學習深度神經網絡的基礎知識，以及它們在眾多 AI 任務中的應用。課程結束后，期望學生能對深度學習有足夠的了解，并且能夠在眾多的實際任務中應用深度學習。

課程官方鏈接：http://deeplearning.cs.cmu.edu/

本課程包含全面的概念描述，它幫助我們理解了深度學習的基礎知識。課程從多層感知機開始逐漸深入更復雜的概念，比如注意力機制以及序列模型，另外我們必須完全掌握 Pytorch，這對實現深度學習模型非常重要。作為學生，會學習使用構建深度學習模型所需要的工具。家庭作業(yè)主要包括兩個部分，分別是 Autolab 和 Kaggle。

Kaggle 部分讓我們探索多種架構以及理解如何進行微調并不斷改進模型。所有的家庭作業(yè)涉及的任務都非常相似，嘗試使用多種深度學習方法來解決相同任務是非常有趣的。總而言之，在課程結束之際你會充滿信心去構建并調試深度學習模型。

老師的學術功底很強，同時也是個故事大師，整理出來的人工神經網絡的發(fā)展脈絡很清晰明了，以此為基礎引導學生由淺入深的思考問題，有節(jié)奏的從理論到現實問題的轉移，十分推薦。

@付騰

Bhiksha Raj

使用主流的工具包（復習課和實驗課主要用的工具是 PyTorch）。工具包主要用 Python 編程。學生只要需要掌握其中一門編程語言，或者可以使用自己熟練的編程語言并且學習一種工具包來進行編程。

學生需要熟悉基礎微積分 (微分，鏈式法則)，線性代數和概率論。

每周學習時間 (Units)： 本課程值得每周花 36 小時學習

教材資源和課程PDF文件均可在AI研習社找到。除此之外，AI研習社同步更新Piazza討論版上的問題和教授解答，幫你全方位更加全面地學習這門課程。雷鋒網雷鋒網雷鋒網

鏈接地址：http://ai.yanxishe.com/page/tag/124

  課程截圖

第一講：

深度學習簡介 

課程安排

神經計算的歷史和認知基礎

多層感知機

第二講

神經網絡作為通用逼近器

第三講

訓練神經網絡

感知器學習規(guī)則

經驗風險最小化

梯度下降優(yōu)化

第四講

反向傳播

反向傳播的微積分

第五講

神經網絡的收斂性

收斂率

損失面

學習率以及優(yōu)化方法

最優(yōu)化方法 RMSProp, Adagrad,Momentum

第六講

隨機梯度下降 

模型加速

過擬合

正則化

第七講

技巧：選擇分歧損失函數；批歸一化；Dropout

訓練過程回顧

學生答疑解惑

第八講

繼續(xù)前面的優(yōu)化課

第九講

卷積神經網絡

權重模板

平移不變性

權值共享訓練網絡

構建卷積模型

第十講

視覺模型

神經認知機

卷積神經網絡的數學細節(jié)

Alexnet,Inception,VGG 網絡

第十一講

循環(huán)神經網絡 (RNNs)

建模系列

隨著時間的反向傳播

雙向 RNN

第十二講

穩(wěn)定性

梯度爆炸/梯度消失

長短期記憶神經網絡以及方差

Resnets

第十三講

循環(huán)神經網絡的損失函數

序列預測

第十四講

序列到序列方法

連接時序分類

第十五講

序列到序列模型，注意力模型，語音和語言示例 

第十六講

神經網絡是什么

自動編碼器和降維

表征學習

第十七講

變分自動編碼器

第十八講

生成對抗網絡（第一部分）

生成對抗網絡（第二部分）

第十九講

Hopfield 神經網絡

玻爾茲曼機

第二十講

訓練 Hopfield 網絡 

隨機 Hopfield 網絡

第二十一講

受限玻爾茲曼機

深度玻爾茲曼機

第二十二講

強化學習第一部分

第二十三講

強化學習第二部分

第二十四講

感恩節(jié)假期

第二十五講

強化學習第三部分

第二十六講

強化學習第四部分

第二十七講

Q 學習

深度 Q 學習

第二十八講

新模型以及深度學習的趨勢

課程回顧 

復習課時間表

第一節(jié)：AWS 云服務

第二節(jié)：初試深度學習代碼 

第三節(jié)：高效深度學習/優(yōu)化算法

第四節(jié)：卷積神經網絡

第五節(jié)：調試及可視化

第六節(jié)：循環(huán)神經網絡基礎

第七節(jié)：循環(huán)神經網絡第二部分：損失函數，聯結時序分類（CTC）

第八節(jié)：注意力機制

第九節(jié)：深度學習相關研究

第十節(jié)：變分自動編碼器

第十一節(jié)：生成對抗網絡

第十二節(jié)：強化學習

第十三節(jié)：Hopfield 網絡，玻爾茲曼機，受限玻爾茲曼機

點擊【中文字幕，觀看視頻 CMU 秋季新課《深度學習導論》】