SFFAI 57 X CRIPAC報名通知

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

由於特殊時期,SFFAI出於對大眾健康的優先考慮,以及致力於為大眾提供更高效、更便捷的參會體驗,現已將SFFAI57期論壇改為線上形式。


SFFAI 合作機構 CRIPAC 簡介

智能感知與計算研究中心(www.cripac.ia.ac.cn)為中科院自動化研究所獨立建制的科研部門,致力於研究泛在智能感知理論與技術以及與之相伴的海量感知數據的智能分析與處理。瞄準國際學科前沿,面向國家公共安全、智能產業發展等重大戰略需求,著眼於基礎理論創新與關鍵技術突破以及系統解決方案的研製,努力打造成為國際一流的研究中心,是集人才培養、技術創新、產業孵化為一體的創新平臺。中心目前主要在多模態智能計算、生物識別與安全、生物啟發的智能計算、智能感知基礎理論四個方面展開科學研究。


論壇主題

自監督學習專場


論壇簡介

“If intelligence is a cake, the bulk of the cake is self-supervised learning, the icing on the cake is supervised learning, and the cherry on the cake is reinforcement learning.”

-- Yann LeCun

監督學習依賴大量人工標註的數據來讓模型通過學習完成指定任務。強化學習,是透過獎勵與懲罰的機制,讓機器在虛擬情境中不斷試錯,累積經驗來學習。自監督學習是通過預測來認識世界。就像人類是不斷透過已知的部分來預測未知,自監督學習更接近人類學習行為的方法。本期論壇我們將分享自監督時空特徵表示學習領域發表在AAAI2020(Oral)和CVPR2020上的新工作。


論壇講者

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

羅德昭

羅德昭,中國科學院信息工程研究所第三研究室在讀碩士,導師為周宇副研究員。主要興趣為視頻自監督特徵學習,曾在AAAI, CVPR, CVPRW發表論文,曾獲CVPR SkelNetOn 2019競賽冠軍。

報告題目:基於完形填空任務的視頻自監督學習方法

報告摘要:在過去的幾年中,卷積神經網絡推動了計算機視覺領域的發展。在解決視覺任務時,通常以在大規模數據集如ImageNet和Kinetics上經過預訓練的神經網絡為初始化模型。這些網絡具有豐富的特徵表示能力,但需要大量人工標註。通過自監督學習的方式,可以在沒有數據標註的情況下,學習豐富的特徵表示。自監督方法主要通過設計代理(Proxy)任務,鼓勵網絡學習數據特徵。然後以初始化的方式提升目標(Target)任務的性能。現有的視頻自監督方法通常是在固定的任務下進行學習,限制了模型的表示能力。此外,由於缺乏模型評估方法,極大地限制了自監督表示學習的針對性。本次報告將介紹發表於AAAI2020(Oral)的工作,一種基於完形填空任務的視頻自監督學習方法(Video Cloze Procedure, VCP),通過引導網絡完成視頻的完形填空任務,從而學習視頻特徵。基於完形填空的特性,VCP既可以用作代理(Proxy)任務,也可用作目標(Target)任務。作為代理(Proxy)任務, VCP可以針對不同的特徵融合多個自監督任務,增加了網絡的擴展性。作為目標(Target)任務, VCP可以作為作為一種評測工具,用於評測不同自監督模型在視頻特徵上的學習效果。

Spotlight:

  1. 提出基於視頻完形填空的自監督學習方法;
  2. 提出一種自監督模型評測方法;
  3. 在行為識別數據集(UCF101)和(HMDB 51)上的實驗表明,VCP在不同主幹的網絡上均有顯著提升。


SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

姚遠

姚遠,中國科學院大學電子電氣與通信工程學院在讀博士生,2017年本科畢業於北京交通大學。主要研究興趣為自監督學習,曾在CVPR發表一作論文。

報告題目:基於播放速率感知的視頻自監督學習方法

報告摘要:近年來,自監督表徵學習由於無需人工標註,特徵具有較好的泛化性等優勢得到了越來越多的關注,不斷有研究在計算機視覺、自然語言處理等領域取得進展,例如在圖像中通過一些自監督方法進行預訓練在某些目標任務中已經逼近甚至超過一般的ImageNet 預訓練模型。然而在視頻方向,由於數據相比圖像更加複雜,相關的自監督方法距離全監督預訓模型在性能上仍有較大差距。本次報告將介紹發表於CVPR2020上的工作,一種基於播放速率感知的視頻自監督學習方法(Playback Rate Perception,PRP),相比目前視頻自監督學習中基於時序排序任務的大部分工作,本工作則是利用視頻的時間多分辨率特性設計了一個新的自監督任務。PRP通過多間隔採樣得到不同播放速率的快慢視頻,而相應的採樣間隔類別,相對快進視頻的慢放視頻自然而然地成為監督信號,指導網絡模型從判別感知和生成感知兩方面進行特徵學習。實驗表明通過PRP的自監督任務學習,網絡模型能夠對前景運動區域有著較好的激活,而在不同的目標任務上,PRP相比之前的自監督方法都有性能上的提升。

Spotlight:

  1. 提出了一種基於播放速率感知的視頻自監督學習任務;
  2. 從判別感知和生成感知兩方面進行視頻特徵學習;
  3. 在UCF101和HMDB51兩個數據集的動作分類和視頻檢索任務上,PRP使用三種網絡主幹都取得了性能的提升。


召集人

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

劉暢

劉暢 ,中國科學院大學,模式識別與智能系統開發實驗室在讀博士生,導師為葉齊祥教授,研究方向為深度特徵表示學習,曾在CVPR、ECCV、AAAI等發表一作論文。


論文推薦

“ 本期推薦的文章主要關注於自監督學習,你可以認真閱讀講者推薦的論文,來與講者及同行線上交流哦。”

回覆"SFFAI57論文"獲取本主題精選論文

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

推薦理由:谷歌大腦發表於CVPR 2020的工作。這篇文章將無監督表示法學習描述為一個多模態、多任務學習問題,其中特徵的表示在不同的模式之間共享。

—— 羅德昭

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

推薦理由:這幾篇圖像領域中經典的自監督方法。

—— 羅德昭

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

推薦理由:這是近期一篇關於半監督、無監督(包括自監督)的概述,二者都涉及到如何在部分標註甚至無標註情況下進行大量數據的表徵學習,在網絡模型設計難以為繼的時候,我們或許可以從數據集的角度思考問題。

—— 姚遠

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

推薦理由:一系列基於時序預測的視頻自監督學習方法,從視頻幀排序到視頻塊排序,其實都可以看做jigsaw puzzles類方法從空域到時域的延伸。

—— 姚遠


參會須知

會議時間

2020年3月29日(週日)

19:00 -- 20:30

報名方式

關注公眾號:人工智能前沿講習。對話框回覆“SFFAI57”,獲取入群二維碼。


SFFAI的介紹

SFFAI 57 X CRIPAC報名通知 | 自監督學習專場

現代科學技術高度社會化,在科學理論與技術方法上更加趨向綜合與統一,為了滿足人工智能不同領域研究者相互交流、彼此啟發的需求,我們發起了SFFAI這個公益活動。SFFAI每週舉行邀請一線科研人員分享、討論人工智能各個領域的前沿思想和最新成果,使專注於各個細分領域的研究者開拓視野、觸類旁通。

SFFAI目前主要關注深度學習、計算機視覺、自然語言處理、數據挖掘等各個人工智能垂直領域及交叉領域的前沿進展,讓觀眾瞭解到講者在研究中獲得的經驗,也為講者塑造個人影響力。SFFAI還在構建人工智能領域的知識森林—AI Knowledge Forest,通過彙總各位參與者貢獻的領域知識,沉澱線下分享的前沿精華,使AI Knowledge Tree枝繁葉茂,為人工智能社區做出貢獻。

SFFAI自2018年9月16日舉辦第一期線下交流,每週一期,風雨無阻,截至目前已舉辦56期交流活動,共有100+位講者分享了他們的真知灼見,來自100多家單位的同學參與了現場交流,通過線上推文、網絡直播等形式,50000+人次參與了SFFAI的活動。

SFFAI自發起以來,迅速成長壯大,已經成為人工智能學生交流的第一品牌,有一群志同道合的研究生Core-Member夥伴,有一批樂於分享的SPEAKER夥伴,還有許多認可活動價值、多次報名參加現場交流的觀眾,大家通過參與SFFAI,收穫了寶貴的友誼和知識。


SFFAI 57 X CRIPAC報名通知 | 自監督學習專場


分享到:


相關文章: