預告 | 華為諾亞方舟實驗室研究員尹伊淳: 預訓練語言模型壓縮

預告 | 華為諾亞方舟實驗室研究員尹伊淳: 預訓練語言模型壓縮

本週為將門技術社區第·200·期線上分享特別活動 這也是華為諾亞方舟實驗室系列Talk的第②彈!


北京時間4月29日(週三)中午12點整華為諾亞方舟實驗室研究員—尹伊淳博士的talk將準時在將門TechBeat技術社區上線!他與大家分享的主題是“預訓練語言模型壓縮的相關研究”,將介紹如何使用模型壓縮技術,將預訓練語言模型有效地部署到資源受限的設備上等內容。


Talk·信息


主題:預訓練語言模型壓縮的相關研究

嘉賓:華為諾亞方舟實驗室研究員 尹伊淳

上線時間:北京時間 4月29日 (週三) 12:00

地點:將門TechBeat技術社區

http://www.techbeat.net/


Talk·提綱


預訓練語言模型目前已經成為自然語言處理領域的主流模型,但在實際工程應用的時候面臨著模型參數多、推理速度慢等挑戰。如何使用模型壓縮技術,將預訓練語言模型有效地部署到資源受限的設備上,已經成為當前一個重要的研究方向。


本次分享的具體內容有:

1. 問題背景

2. 相關工作

  • 面向預訓練語言模型的量化
  • 面向預訓練語言模型的剪枝
  • 面向預訓練語言模型的蒸餾
  • 面向自注意力機制的改進

3. 我們的研究工作

  • TinyBERT

4. 未來研究方向


嘉賓介紹

預告 | 華為諾亞方舟實驗室研究員尹伊淳: 預訓練語言模型壓縮

尹伊淳 華為諾亞方舟實驗室研究員

尹伊淳,博士畢業於北京大學信息科學技術學院,工作發表在IJCAI、AAAI和EMNLP會議上,為ACL/EMNLP/IJCAI會議審稿人,TinyBERT作者,曾獲“2018機器閱讀理解技術競賽”第二名。尹伊淳目前的主要研究方向包括預訓練語言模型、模型壓縮和對話系統。


Talk·觀看與交流


先來一段高燃預告片提前感受下吧!



完整版怎麼看?

掃描下方二維碼,

或登錄TechBeat官網 www.techbeat.net

一鍵完成

預約!上線後會在第一時間收到通知哦~

預告 | 華為諾亞方舟實驗室研究員尹伊淳: 預訓練語言模型壓縮


Talk·提問交流


www.techbeat.net

為了擁有更好的體驗,建議在PC端打開哦!


預告 | 華為諾亞方舟實驗室研究員尹伊淳: 預訓練語言模型壓縮


快來Talk界面下的【交流區】參與互動!歡迎提前留下你的打call和問題,一起和小夥伴們討論,說不定就被講者翻牌解答了呢!


Talk上線後,也期待你來積極

【記筆記】,梳理自己的學習內容,為後面的小夥伴填坑指路


當然,你的每一次貢獻,我們都會給予你相應的i豆積分,近期還會有驚喜獎勵哦!

預告 | 華為諾亞方舟實驗室研究員尹伊淳: 預訓練語言模型壓縮

關於TechBeat社區


TechBeat(www.techbeat.net)是一個薈聚全球華人AI精英的成長社區。


我們希望為AI人才打造更專業的服務和體驗,加速並陪伴其學習成長。


期待這裡可以成為你學習AI前沿知識的高地,分享自己最新工作的沃土,在AI進階之路上的升級打怪的根據地!


更多詳細介紹>>TechBeat,一個薈聚全球華人AI精英的學習成長社區


-The End-


分享到:


相關文章: