一文讀懂深度學習中的熱點問題

一文讀懂深度學習中的熱點問題

2012年多倫多大學的研究人員首次使用深度學習在ImageNet大規模視覺識別挑戰賽中獲勝,深度學習漸漸被人們所熟知。而對於AI行業的從業者來說,深度學習下的計算機視覺,是使計算機能夠理解圖像背景的一門重要學科,也是人工智能中最具挑戰性的領域之一。目前,國內計算機視覺飛速發展,有了曠視科技face++、商湯科技、極鏈科技Video++等優質企業。那麼,深度學習究竟是什麼呢?本文將詳細的解釋當前深度學習下的兩個熱點問題。

深度學習這一想法本身並不新穎,早在1959年就被討論過。當時受限於算法、硬件水平及數據量的限制,沒有得到很好的發展。近60年,隨著硬件水平的不斷提升,數據量的爆炸式增長,深度學習再一次煥發出勃勃生機,並展現出優異的性能。

而計算機視覺領域中關鍵的深度學習,也成為了被關注的焦點。人工神經網絡的概念是深度學習算法的主要組成部分,已經存在數十年,第一個神經網絡可以追溯到20世紀50年代。由於數十年的研究以及數據和計算資源的可用性,深度學習的概念已經從實驗室走出並進入實際領域。

那麼深度學習和機器學習是一回事麼?

一文讀懂深度學習中的熱點問題

深度學習是一個非常複雜的計算機科學領域,它涉及許多高級數學概念。但在過去幾年中,學術界已經創建了大量的工具和庫來抽象出潛在的複雜性,並使你能夠無須解決過多的數學問題來開發深度學習模型。

深度學習和機器學習並不相同,深度學習是機器學習的一個子集。通常,機器學習適用於基於訓練數據模型和行為規則的所有技術,ML技術已經投入生產使用了很長時間。在深度學習之前,科學家們必須在編寫“功能”或模塊方面投入大量精力,這些功能可以執行模型想要執行的任務的一小部分。例如,如果你想要創建一個可以檢測物體的AI模型,你將編寫一段程序來檢測這個物體的特徵,而且必須使這些程序足夠強大,以便從不同角度和不同光照條件下檢測這些特徵,並告訴不同的物體之間的差異。經過以上這些操作後,你才可以在這些基礎上進行基礎學習。

深度學習是科學的嗎?

儘管深度學習過程可以用數學符號描述,但這個過程本身是不科學的。深度學習就像一個黑匣子,我們無法理解這個系統是如何理解處理特徵並完成相關任務的。

以卷積操作舉例,正如TensorFlow手冊中所說,卷積層發現相關性。許多草葉通常代表一個草坪,在TensorFlow中,系統會花費大量時間來發現這些相關性。一旦發現了某些相關性,這種關聯會導致模型中某些權重的調整,從而使得特徵提取正確。但從本質上來說,所有的相關性開始時對於模型來說都被遺忘了,必須在每次前向傳播和梯度下降的過程中來重新發現。這種系統實際上是從錯誤中吸取教訓,即模型輸出與理想輸出之間的誤差。

前向和反向傳播過程對圖像理解有一定的意義,有些人在文本上使用了相同的算法。幸運的是,針對於文本任務而言,有更加高效的算法。首先,我們可以使用大腦突觸或編程語言中的常規指針或對象引用顯式地表示所發現的相關性,神經元與神經元之間有關聯。

所以說,無論是深度學習算法,還是有機學習,都不能說是科學的。它們在缺乏證據並信任相關性的前提下得出結論,而不堅持可證明的因果關係。大多數深層神經網絡編程很難得到理想結果並存在一定的誤差,只能通過從實驗結果中發現線索來改進模型。增加網絡層數不總是有效的,對於大多數深度神經網絡從業者而言,根據實驗結果來調整改進網絡就是他們的日常工作。沒有先驗模型,就沒有先驗估計。任何深層神經網絡可靠性和正確性的最佳估計,都是經過大量的實驗得到。


分享到:


相關文章: