谷歌AI大神力作,把进化论引入人工智能:自动进化的AI程序

近日,谷歌计算机科学家Quoc Le和他的同事们开发了一个名为AutoML-Zero的程序,这款程序引用了达尔文进化论“

适者生存”的概念,可以在没有人工输入的情况下实现AI程序一代与下一代之间的自我改善和进化。

▌零人工输入的自动化机器学习程序:AutoML-Zero

相关论文发表在预印平台arXiv中,论文标题为《AutoML-Zero:从零开始发展机器学习算法》

谷歌AI大神力作,把进化论引入人工智能:自动进化的AI程序

AutoML-Zero在短短几天内就复制了数十年的AI研究成果,有设计人员认为,有一天它可以超越现有的研究,发现人工智能的新方法。

建立AI算法往往需要较长的时间。以神经网络(一种用于翻译语言和驾驶汽车的常见机器学习类型)为例,为了使更小的神经元子电路执行特定的任务——例如识别路标,研究人员往往需要花费数月的时间研究如何将它们连接起来以便无缝地协同工作。

近年来,科学家们通过自动化一些步骤加快了这一进程,但这些程序仍然依赖于将人类设计的现成电路缝合在一起,这意味着程序输出仍然受到工程师的想象力和现有偏见的限制。

因此, Quoc Le和他的同事们开发了AutoML-Zero程序,这个程序可以仅仅使用高中生知道的基本数学概念开发出无需人工输入的AI程序。他说:“我们的最终目标是开发出连研究人员都找不到的新型机器学习概念。”

AutoML-Zero程序使用宽松的演化近似(a loose approximation of evolution)来发现算法。它首先通过随机组合数学运算来创建100个候选算法。然后在一个简单的任务上测试他们,比如一个图像识别问题,在这个问题上,它必须决定一幅画上的图像是猫还是卡车。

在每个循环中,程序将算法的性能与手工设计的算法进行比较。通过随机替换、编辑或删除一些代码来“突变”顶级算法的副本,从而创建最佳算法的细微变化。这些“新生儿”被添加到种群中,而较老的项目被淘汰,这个循环重复进行。

谷歌AI大神力作,把进化论引入人工智能:自动进化的AI程序

研究方法

该系统可一次创建成千上万个这样的种群,这使其每秒可以浏览成千上万的算法,直到找到一个好的解决方案。该程序还使用一些技巧来加快搜索速度,例如偶尔在种群之间交换算法以防止任何进化死胡同的出现,并自动清除重复的算法。

研究人员指出,这种方法可能会偶然发现一些经典的机器学习技术,包括神经网络。Le承认,与当今最先进的算法相比,这些解决方案很简单,但这项工作是原理性的证明,未来可以将其扩展以创建更复杂的AI。

埃因霍温科技大学的计算机科学家Joaquin Vanschoren仍然认为,这种方法要与最先进的技术相抗衡还需要一段时间。他说,有一件事可以改进这个程序,那就是不要让它从头开始,而是用人类已经发现的一些技术来培养它。我们可以用机器学习的概念来启动这个泵。”

这其实也是Le计划要做的事情。他补充说,专注于更小的问题而不是整个算法也有希望。他的团队于4月6日在arXiv上发表了另一篇论文《不断发展的标准化激活层》,该论文使用了类似的方法重新设计了许多神经网络中流行的现成组件。

但Le认为,增加数据库中的数学运算数量,并为该程序投入更多的计算资源,可能会发现全新的AI能力。他说:“这项技术将用于发现一些靠人力需要很长时间才能发现的真正基础性的东西。”

得克萨斯大学奥斯汀分校计算机科学家里斯托·米库莱宁(Risto Miikkulainen)说,“当大多数人还在蹒跚学步时,他们已经向未知领域迈出了一大步,这是一篇可以启动未来大量研究的论文。”

▌认识谷歌AI大神Quoc Le

Quoc Le是谷歌大脑(Google Brain)的创始成员,自动化机器学习(AutoML)的灵魂人物,也是前谷歌大脑、百度大脑AI负责人吴恩达的博士研究生。

谷歌AI大神力作,把进化论引入人工智能:自动进化的AI程序

Quoc Le

从2013年开始,他一直担任谷歌研究的计算机科学家,研究领域涉及算法与理论、机器智能、机器感知、机器翻译、自然语言处理、语音处理等。

2011年,Le在斯坦福大学攻读博士学位时,利用数百万个YouTube缩略图开发了一个能够识别猫的非监督学习系统。

2014年,他利用深度学习技术和端到端系统,将单词和文档自动转换成向量表示,从而提升了机器翻译性能,为谷歌在神经机器翻译方面的后续突破奠定了基础。

在2014年之后,他就开始专注于自动化机器学习。Le认为,建立机器学习模型的过程是一个简单的反复实验问题,可以通过自动化机器学习解决。

2016年,Le与一位谷歌同事合作,发表了《神经结构搜索与强化学习》研究,该研究促成了Google Cloud AutoML的创建,可以让拥有有限机器学习知识的开发人员训练高质量的模型。

谷歌AI大神力作,把进化论引入人工智能:自动进化的AI程序

Google Cloud AutoML

对于AutoML未来的应用,他曾表示:“大多数云平台,或商业云平台都将以一种形式或另一种形式运用 AutoML,因为这对最终用户来说会产生很大的影响。

“可以编写机器学习程序的人实际上非常少,但想要实际使用机器学习的人却非常多。AutoML 是研究人员将其技术实际转移到许多其他公司的绝佳机会,所以我希望很多云公司都会使用AutoML。”

除了AutoML,Quoc Le还参与了谷歌TensorFlow和 Google Neural Translate的开发。


分享到:


相關文章: