【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

大家知道,有三AI有計算機視覺的人才培養體系,分為三個等級,分別是春季劃,夏季劃,秋季劃,如果不熟悉可以查看下面介紹。

(1) 春季劃的目標,是為了培養新人熟悉深度學習和計算機視覺的核心領域,達到一般崗位項目研發的水平。

(2) 夏季劃的目標,是為了讓大家更深層次掌握框架的使用,同時熟悉更多的計算機視覺領域。

(3) 秋季劃的目標,則是專精於某一個方向,目前包括模型優化,人臉算法,圖像質量,GAN。

過去的3月份,我們給模型優化小組進行了突擊直播,包括4期內容。直播並沒有錄製視頻,但是文件有留存,那麼這4期直播都包括了哪些內容呢?

第一期:數據使用

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

第一期的內容為數據使用,數據的使用是被大部分新人所忽略的內容,因為理論體系並不完善,然而它卻在很多情況下是項目能否真正成功的關鍵。一直以來,我們都很重視數據相關的內容,在這次直播中,關於數據的使用講述了以下內容:

(1) 爬蟲。我們不僅講了小型的圖片和視頻爬蟲,更剖析瞭如何構建ImageNet這樣的大型數據集爬蟲,甚至包括'扒光'一些網站的好資源,當然這不是值得提倡的,但確實很有用,筆者就這樣存了上千萬的未公開高質量數據,以後有機會陸續發佈。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(2) 數據整理。數據整理看似很簡單,但是習慣和流程往往會反映出工程人員和公司的素質,學會數據的整理,挑選,去重,分級,往後做項目會少走很多彎路,有三也寫了一個基於C++的去重項目供參考使用。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(3) 數據增強。數據增強無處不在,說它是大部分項目成功的關鍵一點都不過分,我們總結了平常項目以及比賽中分類與檢測任務中的數據增強方法。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(4) 任務實踐和開源項目推薦。最後,當然是實踐出真知,我們以圖像分類和GAN的任務來展示了數據增強的重要性,同時給大家推薦了一些乾貨項目。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

第二期:模型優化核心技術

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

接著是第二期,模型的優化核心技術,在這次直播中,我們重點講述了以下內容:

(1) 模型的設計思想彙總。這一期主要是回顧一下我們在天池做過的直播,各種設計思想望大家熟記於心,使用起來才能如魚得水。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(2) 模型的性能分析。對模型的理解是非常重要的,我們不能期待一個模型總是以最正確的方式運行,優化模型也是我們常常要做的,因此我們要學會定量,定性地評估好模型。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(3) 模型調參。經常會遇到人問我為什麼我的模型不收斂,怎樣讓我的模型更好更快,這個問題回答起來一言難盡。從網絡的優化方法,基本單元設置,拓撲結構等各方面都需要掌握,這些都可以歸入模型調參,我們對相關的技術進行了總結和實踐。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(4) 工業界秘笈。模型從訓練到部署,中間有很多工作,甚至對模型本身還會做出一些修改,包括格式,結構等,你是否掌握了正確的姿勢呢。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

第三期:模型精簡前沿技術

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

接著是第三期,模型精簡前沿技術,在這次直播中,我們重點講述了以下內容:

(1) 模型剪枝設計。我們對當前各種粒度的剪枝算法進行了系統性的總結。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(2) 模型量化設計。我們對當前不同位寬以及對稱和非對稱,離線與在線的量化算法進行了系統性的總結。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(3) 模型蒸餾設計。我們對當前的知識蒸餾和遷移學習算法進行了系統性的總結。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(4) AutoML設計。我們對當前的AutoML的主要思路進行了分析,往後會單獨增加AutoML的內容直播。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

第四期:模型精簡實踐

接著是第四期,模型精簡實踐,在這次直播中,我們對模型剪枝,量化以及知識蒸餾進行了實踐:

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(1) 模型剪枝實踐。我們在PPT和圖文資料中對細粒度和粗粒度的模型剪枝算法分別進行了實踐,剖析代碼和實驗結果。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(2) 模型量化實踐。我們對最主流的8bit量化算法的思想和代碼實現進行了分析,並對比了實驗結果。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

(3) 模型蒸餾實踐。我們對最主流的模型蒸餾算法的思想和代碼實現進行了分析,並展示了實驗結果。

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

接下來的直播安排

在4月份,大概率我們不會有直播安排,因為要讓大家消化已有的內容。到了5月份,我們還會安排有AutoML以及移動端模型部署的相關內容,接下來敬請期待吧。

小提示:直播的地點就在微信群內,並且所有資料發放也在微信群內,為防止資源外洩不會再更新雲盤,這都是為了保護模型優化小組成員的權益。

如何學習以及報名

模型優化小組的學習路線如下:

【總結】有三AI秋季劃模型優化組3月直播講了哪些內容?

學習的資料包括:

(1) 一些相關的視頻講解,不定期增加。

(2) 圖文課件和實踐代碼,數據集。

當然了,更重要的是多討論,相互進步,畢竟內容很多。

完整的模型優化小組的內容介紹大家可以查看如下往期文章:

報名方式為聯繫有三本人微信Longlongtogo(小提示,秋季劃小組5月份開始調整價格)。


分享到:


相關文章: