近日，谷歌計算機科學家Quoc Le和他的同事們開發了一個名為AutoML-Zero的程序，這款程序引用了達爾文進化論“
適者生存”的概念，可以在沒有人工輸入的情況下實現AI程序一代與下一代之間的自我改善和進化。▌零人工輸入的自動化機器學習程序：AutoML-Zero
相關論文發表在預印平臺arXiv中，論文標題為《AutoML-Zero：從零開始發展機器學習算法》。
AutoML-Zero在短短几天內就複製了數十年的AI研究成果，有設計人員認為，有一天它可以超越現有的研究，發現人工智能的新方法。
建立AI算法往往需要較長的時間。以神經網絡（一種用於翻譯語言和駕駛汽車的常見機器學習類型）為例，為了使更小的神經元子電路執行特定的任務——例如識別路標，研究人員往往需要花費數月的時間研究如何將它們連接起來以便無縫地協同工作。
近年來，科學家們通過自動化一些步驟加快了這一進程，但這些程序仍然依賴於將人類設計的現成電路縫合在一起，這意味著程序輸出仍然受到工程師的想象力和現有偏見的限制。
因此， Quoc Le和他的同事們開發了AutoML-Zero程序，這個程序可以僅僅使用高中生知道的基本數學概念開發出無需人工輸入的AI程序。他說：“我們的最終目標是開發出連研究人員都找不到的新型機器學習概念。”
AutoML-Zero程序使用寬鬆的演化近似（a loose approximation of evolution）來發現算法。它首先通過隨機組合數學運算來創建100個候選算法。然後在一個簡單的任務上測試他們，比如一個圖像識別問題，在這個問題上，它必須決定一幅畫上的圖像是貓還是卡車。
在每個循環中，程序將算法的性能與手工設計的算法進行比較。通過隨機替換、編輯或刪除一些代碼來“突變”頂級算法的副本，從而創建最佳算法的細微變化。這些“新生兒”被添加到種群中，而較老的項目被淘汰，這個循環重複進行。
研究方法
該系統可一次創建成千上萬個這樣的種群，這使其每秒可以瀏覽成千上萬的算法，直到找到一個好的解決方案。該程序還使用一些技巧來加快搜索速度，例如偶爾在種群之間交換算法以防止任何進化死衚衕的出現，並自動清除重複的算法。
研究人員指出，這種方法可能會偶然發現一些經典的機器學習技術，包括神經網絡。Le承認，與當今最先進的算法相比，這些解決方案很簡單，但這項工作是原理性的證明，未來可以將其擴展以創建更復雜的AI。
埃因霍溫科技大學的計算機科學家Joaquin Vanschoren仍然認為，這種方法要與最先進的技術相抗衡還需要一段時間。他說，有一件事可以改進這個程序，那就是不要讓它從頭開始，而是用人類已經發現的一些技術來培養它。我們可以用機器學習的概念來啟動這個泵。”
這其實也是Le計劃要做的事情。他補充說，專注於更小的問題而不是整個算法也有希望。他的團隊於4月6日在arXiv上發表了另一篇論文《不斷髮展的標準化激活層》，該論文使用了類似的方法重新設計了許多神經網絡中流行的現成組件。
但Le認為，增加數據庫中的數學運算數量，併為該程序投入更多的計算資源，可能會發現全新的AI能力。他說：“這項技術將用於發現一些靠人力需要很長時間才能發現的真正基礎性的東西。”
得克薩斯大學奧斯汀分校計算機科學家裡斯托·米庫萊寧(Risto Miikkulainen)說，“當大多數人還在蹣跚學步時，他們已經向未知領域邁出了一大步，這是一篇可以啟動未來大量研究的論文。”
▌認識谷歌AI大神Quoc Le
Quoc Le是谷歌大腦（Google Brain）的創始成員，自動化機器學習（AutoML）的靈魂人物，也是前谷歌大腦、百度大腦AI負責人吳恩達的博士研究生。
Quoc Le
從2013年開始，他一直擔任谷歌研究的計算機科學家，研究領域涉及算法與理論、機器智能、機器感知、機器翻譯、自然語言處理、語音處理等。
2011年，Le在斯坦福大學攻讀博士學位時，利用數百萬個YouTube縮略圖開發了一個能夠識別貓的非監督學習系統。
2014年，他利用深度學習技術和端到端系統，將單詞和文檔自動轉換成向量表示，從而提升了機器翻譯性能，為谷歌在神經機器翻譯方面的後續突破奠定了基礎。
在2014年之後，他就開始專注於自動化機器學習。Le認為，建立機器學習模型的過程是一個簡單的反覆實驗問題，可以通過自動化機器學習解決。
2016年，Le與一位谷歌同事合作，發表了《神經結構搜索與強化學習》研究，該研究促成了Google Cloud AutoML的創建，可以讓擁有有限機器學習知識的開發人員訓練高質量的模型。
Google Cloud AutoML
對於AutoML未來的應用，他曾表示：“大多數雲平臺，或商業雲平臺都將以一種形式或另一種形式運用 AutoML，因為這對最終用戶來說會產生很大的影響。”
“可以編寫機器學習程序的人實際上非常少，但想要實際使用機器學習的人卻非常多。AutoML 是研究人員將其技術實際轉移到許多其他公司的絕佳機會，所以我希望很多雲公司都會使用AutoML。”
除了AutoML，Quoc Le還參與了谷歌TensorFlow和 Google Neural Translate的開發。
