NeurIPS 2020 大變動,領域主席可拒稿20%,作者即評審,佈局遠程會議

NeurIPS 2020 大變動,領域主席可拒稿20%,作者即評審,佈局遠程會議

日前,NeurIPS 2020 官網上正式更新了今年的論文截稿日期:摘要提交截止日期為 5月5日,論文提交截止日期為5月12日。

相對於去年的論文截止日期,今年整體提前了十天左右。各位要投稿的作者們,可得加快點速度了。而今天,NeurIPS 組委會還發布了NeurIPS 2020 在提交和評審機制上做出的一些重大更改,而本次將截稿日期提前,也正是為了評審機制上的調整做準備。我們來看提交和評審機制上具體有哪些重大變化:

一、預留更多時間審稿、作者即評審、必須上傳視頻 spotlight

據NeurIPS 組委會介紹,今年在提交和評審機制上主要做出了以下幾點重要更改:

第一,將摘要提交截止日期提前至5月5日,論文提交截止日期提前至5月12日,以給組委會預留更加充足的時間來審閱數量上大幅增加的論文投稿,以及給評審過程中的早期拒稿階段更多的考量時間。

第二,早期拒稿:領域主席有兩週的時間來挑選出一批早期拒稿的論文,比例大概為 20%。接著由高級領域主席在一週時間內通過決議,一經通過,被拒稿的論文作者就會收到其論文不會再接受進一步評審的通知。

第三,作者即評審:要求每篇論文的每位作者或共同作者,在要求他們參與評審論文的情況下都同意參與評審論文。這項要求能夠有效地擴大評審團隊的規模,並且還能夠在包括向NeurIPS 投稿的作者在內的社區成員間公平地分配評審負擔。

第四,更廣泛的影響:要求作者在投稿論文中單獨擬一個章節來探討他們這項工作將帶來的更廣泛的影響,包括可能帶來的正面或負面的社會影響。

第五,視頻spotlight:要求所有的作者在camera-ready提交截止前,都上傳論文的spotlight演示視頻。現在NeurIPS正在嘗試為遠程演示和遠程參會做準備工作。

另外,如果作者提交的論文此前已在同行評審中被拒稿,必須標註這一信息,並且列出本次提交的論文所做出的改變。

而去年,NeurIPS 組委會也在評審機制上做過一些調整,其中最引人關注的就是 NeurIPS 組委會與 BMVC、ECML-PKDD、EMNLP-IJCNLP 以及 ICCV 的程序委員會主席通力合作,為防止一稿多投現象所採取的舉措。最終,19 篇論文因一稿多投而被拒收,一時譁然,讓各位投稿作者不禁繃緊了神經弦。

二、投稿、參會人數劇增,提交、評審機制改變勢不可擋

NeurIPS 2020 大变动,领域主席可拒稿20%,作者即评审,布局远程会议

(雷鋒網)NeurIPS會議現場圖

為什麼做出這些改變呢?

NeurIPS 2020 在官方博客中說明了原因,其實在NeurIPS 2019大會開幕之前,就一直考慮三個問題:1.如何應對參會和投稿人數劇增的趨勢;研究倫理背後的考慮和含義是什麼;怎麼支持可持續的實踐,例如遠程參會。

以上三個問題每一個都對會議的審查制度或多或少產生了影響。

首先,面對參會和投稿人數劇增,必須找到合適的方法增強審核的容忍度,畢竟幾周內審核千篇論文,NeurIPS面臨的同行評審規模是前所未有的。據官方組委會預計,2020年將有10000篇論文提交。那麼就需要產生30000條審核意見。

再者,早期拒稿階段的採用已經在IJCAI進行了試點,採用這種模式是應對人數規模增長的最直接的辦法,當然也是當前期刊普遍採用的一種方法。具體操作步驟是:領域主席確定20%節能被拒絕的論文,然後高級領域主席進一步確認是否拒絕,最後通知作者將該論文從審稿流程中刪除。

此種做法的核心是將質量較差,相關性較小的投稿儘快排除,將審稿人的精力集中到高質量的作品中。

另外,論文作者在重新提交論文時候,要求註明“重新提交”字樣,並總結之前“悲劇”原因,列舉新版本的改進之處。

之所以鼓勵遠程參會是因為想為解決國際會議日益日益增長的碳足跡出一份力。在過去兩年的時間裡,搶會議門票的熱度堪比“春運”,甚至還採用了抽獎模式。所以今年進一步佈局遠程參會,要求演講者上傳PPT和演講視頻,啟用遠程演講和海報演示的方法。

人數之多,論文之多,參會者在只有幾天的會議時間裡可能無法找到自己感興趣的論文,為此採用論文選配系統,利用個性化推薦算法推薦優質論文,節省論文尋找工作。

為了促進同行評審制度更加健康的發展,要求論文合著者擔任程序委員會成員,讓他們在CMT註冊並徵募為審稿人。

如果不願意,那麼他的論文可能會被拒絕接受。此舉也是為了增加評審人員的隊伍,審稿負荷平均分配下去。為了避免可能導致的潛在利益衝突,借鑑自然科學,物理科學以及醫學的方法,要求披露研究的直接資金來源以及間接的財務關係,當然為了保證雙盲評審的公平性,僅需將此內容添加到印刷(camera-ready)版本中。

最後,為了更全面的考慮新方法和意義,除了在要說明研究所能帶來的有益應用和產品之外,還要註明潛在的黑暗面以及失敗的後果。這部分可以放在附錄和參考文獻那部分專門討論。

三、reddit 網友:看起來很棒!

NeurIPS 評審制度的此次改版,在社區內總體反映較好,總的來說對人工智能的發展以及同行評審制度的完善都能夠起到一定的幫助。reddit 上的熱心網友也非常認真地從正面和反面兩維度,闡述了對於NeurIPS 評審機制本次更改的看法:

NeurIPS 2020 大变动,领域主席可拒稿20%,作者即评审,布局远程会议

(雷鋒網)

1、看起來很公平,但不知道論文作者會不會對其同行的論文進行惡意且嚴厲的審查。

2、意味著糟糕的審稿人可能會在多個會議週期內產生影響,另外,一篇被拒絕過的論文可能會對審稿人的意見產生影響,但是一些超級有影響力的論文在一開始都是被拒絕的。

3、非常棒,很多人將會議看做他“半吊子項目”免費的反饋機制。

4、論文中要求增加的“廣泛影響”可能是一些陳詞濫調。但也有其他網友認為這可能會加快基於人工神經網絡的研究進度,畢竟它繼承了人工神經網絡模型的所有正面和負面社會後果。

不光是NeurIPS,各大人工智能頂會審稿制度就經常招致批評,一些學者稱給 給頂會投論文就像在買最火的籃球鞋:你需要先存好信用卡號,設置自動填寫表單,然後讓自己的電腦物理地址儘可能地靠近 NeurIPS 的服務器地址。

例如,去年NeurIPS放榜時,網友們就在reddit上面一頓吐槽:頂會評審意見不專業,或者說沒包含什麼信息量。

有位審稿人問我們為啥沒有引用X。我們想說的是,已經引用了,還花了一整段來描述我們的研究和它的關係。

有位審稿人舉出了個數據集,讓我們用它評估模型。我們想說的是,已經用這個數據集評估過了,看實驗章節。

這次NeurIPS評審制度的改版,加入了作者即評審的制度,相信一定會比去年更加專業,一些千奇百怪的review也會少一些吧!

四、什麼論文主題,有可能成為 NeurIPS 2020 的“黑馬”?

NeurIPS 2020 大变动,领域主席可拒稿20%,作者即评审,布局远程会议

(雷鋒網)

NeurIPS 2019 收錄論文的主題方面,神經網絡、深度學習、強化學習等依舊是熱門主題,而其中尤其值得注意的便是去年在各大學術頂會上強勢刷臉的圖機器學習,在去年的NeurIPS 上也是一匹當之無愧的“黑馬”。

據悉,在NeurIPS 2019上,僅主會場就有 100多個與圖相關的論文;另外,至少有三個workshop的主題與圖有關:

Graph Representation Learning (大約有100多篇論文);

Knowledge Representation & Reasoning Meets Machine Learning (KR2ML)(大概也有50篇);

Conversational AI在今年,圖機器學習的火熱度似乎也是隻增不減,比如 ICLR 2020的論文投稿中,就有150篇投稿與圖機器學習有關,並且其中有近1/3的論文都被錄用了!

NeurIPS 2020 上,圖機器學習又將扮演重量級幾何的角色呢?又是否會出現新的熱度主題呢?我們現在還沒有明確的答案,不過從NeurIPS 2019的論文獎項評選規則上,我們似乎可以找到一些線索一窺NeurIPS論文評審的偏好度。

話不多說,我們再來回顧下去年NeurIPS 論文獎項評選的具體規則:具備持久影響的潛力——論文聚焦於某個主流而非邊緣化的研究領域,人們在未來的幾十年時間裡依舊會關注它。

有觀點——提供了新的(並且希望是深的)見解,而不僅僅是在性能上提高几個百分點。

創造性/讓人出乎意料/令人驚奇——以創造性的新視角去看待問題,並且得出了真正讓讀者驚喜的結果。變革性——將從根本上改變未來人類思考問題的方式。

嚴謹性——無懈可擊的細緻和嚴謹。

優雅——論文漂亮、工整、流暢並經過很好地潤色。

現實性——不過分強調重要性。科學性——能夠證偽。

可重複性——結果能夠真正可重複、代碼可用並且能夠在多種機器上運行、數據可用以及能夠提供詳細的證實。

與此同時,組委會在評選論文時,還關注論文是否存在以下幾點問題(並避免選擇存在這些問題的論文):

低效——需要以消耗大量資源為前提才能夠脫穎而出的工作(主要依賴於消耗大量資源在排行榜上獲得了更高的排名)

時髦——採用某個方法是因為此方法比較熱門,但其實還可以採用其他更加高效的方法。

過於複雜——論文中加入了本不需要的複雜性。各位作者如果能夠按這些標準來準備自己的論文,相信會給自己的論文加分不少,說不定還能憧憬下論文獎項呢....

去年,NeurIPS 共收到 6809 篇論文投稿量再創新紀錄,大家猜猜,今年會收到多少呢?


分享到:


相關文章: