本週為將門技術社區第·200·期線上分享特別活動 這也是華為諾亞方舟實驗室系列Talk的第②彈!
北京時間4月29日(週三)中午12點整,華為諾亞方舟實驗室研究員—尹伊淳博士的talk將準時在將門TechBeat技術社區上線!他與大家分享的主題是“預訓練語言模型壓縮的相關研究”,將介紹如何使用模型壓縮技術,將預訓練語言模型有效地部署到資源受限的設備上等內容。
Talk·信息
主題:預訓練語言模型壓縮的相關研究
嘉賓:華為諾亞方舟實驗室研究員 尹伊淳
上線時間:北京時間 4月29日 (週三) 12:00
地點:將門TechBeat技術社區
http://www.techbeat.net/
Talk·提綱
預訓練語言模型目前已經成為自然語言處理領域的主流模型,但在實際工程應用的時候面臨著模型參數多、推理速度慢等挑戰。如何使用模型壓縮技術,將預訓練語言模型有效地部署到資源受限的設備上,已經成為當前一個重要的研究方向。
本次分享的具體內容有:
1. 問題背景
2. 相關工作
- 面向預訓練語言模型的量化
- 面向預訓練語言模型的剪枝
- 面向預訓練語言模型的蒸餾
- 面向自注意力機制的改進
3. 我們的研究工作
- TinyBERT
4. 未來研究方向
嘉賓介紹
尹伊淳,博士畢業於北京大學信息科學技術學院,工作發表在IJCAI、AAAI和EMNLP會議上,為ACL/EMNLP/IJCAI會議審稿人,TinyBERT作者,曾獲“2018機器閱讀理解技術競賽”第二名。尹伊淳目前的主要研究方向包括預訓練語言模型、模型壓縮和對話系統。
Talk·觀看與交流
先來一段高燃預告片提前感受下吧!
完整版怎麼看?
掃描下方二維碼,
或登錄TechBeat官網 www.techbeat.net
一鍵完成
預約!上線後會在第一時間收到通知哦~Talk·提問交流
www.techbeat.net
為了擁有更好的體驗,建議在PC端打開哦!
快來Talk界面下的【交流區】參與互動!歡迎提前留下你的打call和問題,一起和小夥伴們討論,說不定就被講者翻牌解答了呢!
Talk上線後,也期待你來積極
【記筆記】,梳理自己的學習內容,為後面的小夥伴填坑指路當然,你的每一次貢獻,我們都會給予你相應的i豆積分,近期還會有驚喜獎勵哦!
關於TechBeat社區
TechBeat(www.techbeat.net)是一個薈聚全球華人AI精英的成長社區。
我們希望為AI人才打造更專業的服務和體驗,加速並陪伴其學習成長。
期待這裡可以成為你學習AI前沿知識的高地,分享自己最新工作的沃土,在AI進階之路上的升級打怪的根據地!
更多詳細介紹>>TechBeat,一個薈聚全球華人AI精英的學習成長社區
-The End-