機器之心整理
參與:鄭麗慧
這份來自 UC 伯克利最新的無監督深度學習 CS294-158 課程總共 14 周,資源中包括 YouTube 高清視頻和課件,絕對是不容錯過的學習課程。
這份課程涵蓋了兩個無需標籤數據的深度學習領域:深度生成模型(Deep Generative Models)和自監督學習(Self-supervised Learning)。生成模型的最新進展使得可以對高維原始數據進行逼真的建模,例如自然圖像,音頻波形和文本語料庫;自我監督學習的進步已經開始縮小監督表徵學習與無監督表徵學習之間的差距,以微調未見任務。
本課程將涵蓋這些主題的理論基礎及其新啟用的應用程序,你可以觀看 YouTube 講座視頻,還可以下載課件的 PDF 版。
課程鏈接:https://sites.google.com/view/berkeley-cs294-158-sp19/home
導師陣容介紹
這門課程的導師共有 4 位,分別是 Pieter Abbeel、Peter Chen、Jonathan Ho 和 Aravind Srinivas。
從左至右分別是 Pieter Abbeel、Peter Chen、Jonathan Ho 和 Aravind Srinivas。
自 2008 年起,Pieter Abbeel 就在加州伯克利任教,是加州伯克利機器人實驗室的負責人,也是機器人公司 covariant.ai 的聯合創始人,是機器人領域的專家。
陳曦(Peter Chen)、何俊森(Jonathan Ho)、阿拉維·斯里尼瓦斯(Aravind Srinivas)三人均為 Pieter Abbeel 名下的博士研究生。
14 周課程安排表
第一週(1/30)
課程 1a:課程概要
課程 1b:激勵
課程 1c:基於似然的模型 I:自迴歸模型
第二週(2/6)
課程 2a:基於似然的模型 I:自迴歸模型(ctd)(與第 1 周幻燈片相同)
課程 2b:無損壓縮
課程 2c:基於似然的模型 II:流模型
第三週(2/13)
課程 3a:基於似然的模型 II:流模型(ctd)(與第二週幻燈片相同)
課程 3b:潛在模型變量 I
第四周(2/13)
課程 4a:潛在模型變量 II
課程 4b:Bits-Back 編碼
第五週(2/27)
課程 5a:潛在模型變量總結(和潛在模型變量 II 幻燈片相同)
課程 5b:ANS 編碼(和 Bits-Back 編碼的幻燈片相同)
課程 5c:隱式模型/生成對抗網絡
第 X 周(3/6)
最終項目討論環節
第六週(3/13)
課程 6a:隱式模型/生成對抗網絡(與 5c 幻燈片相同)
課程 6b:非生成式表徵學習(3/24 更新)
第七週(3/20)
課程 7:非生成式表現學習(與 6b 幻燈片相同)
春假周(3/27)
由學生自行決定
第八週(4/3)
課程 8a:無監督學習的優勢/短板
課程 8b:半監督學習
課程 8c:伊利亞·蘇茨克弗(Ilya Sutskever)嘉賓課程
第九周(4/10)
課程 9a:無監督分佈對齊
課程 9b:阿約沙·埃夫羅斯(Alyosha Efros)嘉賓課程
第十週(4/17)
課程 10:語言模型(亞歷克·拉德福德)
第十一週(4/24)
課程 11:強化學習中的表徵學習
第十二週(5/1)
課程 12:亞倫·範登奧德(Aaron van den Oord)嘉賓課程(幻燈片不可用)
第十三週(5/8)
考前複習周:無課程
第十四周(5/15)
最終項目展示
閱讀更多 機器之心Pro 的文章