14、卷積神經網絡
卷積神經網絡在處理圖像和語言方面效果顯著。目前計算機視覺的主流就是通過基於卷積神經網絡的方法進行處理。
卷積神經網絡的主要結構是卷積-池化結構，即卷積層通過卷積運算提取圖片中的特徵，池化操作整理提取的特徵。通過不斷地卷積池化操作，計算機就會提取出只有它看得懂的高級語義特徵圖。tensorflow實現如下圖，通過卷積神經網絡對mnist手寫數據集進行分類，效果還不錯，精度能達到0.93以上。
圖14、定義卷積層和池化層
圖14、定義卷積神經網絡，兩層卷積池化結構，兩層全連接層
圖14、定義batch_size分批訓練
圖14、訓練效果
15、Save參數
tensorflow通過tf.train.saver提供了保存和載入參數的函數，將參數保存成.ckpt格式，保存參數的代碼如圖所示。
圖15、保存參數
16、load參數
tensorflow通過tf.train.saver提供了保存和載入參數的函數，將參數保存成.ckpt格式，載入參數的代碼如圖所示。
圖16、載入參數
17、RNN
RNN是指循環神經網絡，說實話，我沒有RNN的基礎，聽莫煩講RNN我並沒有搞明白原理，但是利用RNN進行mnist圖片分類的代碼還是寫出來了，僅供大家參考，RNN進行Mnist分類任務的精度還挺好的，達到了0.95。
圖17、設定參數
圖17、搭建RNN網絡並進行訓練
圖17、RNN分類mnist的精度
18、自編碼
自編碼也是一種神經網絡的非監督學習的方式，它只需要樣本X，不需要標籤Y。因為神經元直接從獲取的高清圖像中取學習信息，會是一件很吃力的事情，所以通過特徵提取，提取出能夠重構出原圖的主要信息，把縮減後的信息放入神經網絡中進行學習，就可以更加輕鬆的學習。自編碼的主要結構是編碼器+解碼器，編碼器負責壓縮，解碼器負責解壓，如圖所示，白色X是原圖片，黑色X是解碼後的圖片，求取兩者的誤差，經過誤差反向傳遞，逐步提升自編碼準確性，中間的隱層就是能夠提取出原數據最主要特徵的神經元。tensorflow代碼如圖所示，最後還有白色X和黑色X的對比，還原效果還是挺好的。
圖18、自編碼結構
圖18、設計編碼器（encoder）和解碼器（decoder）結構
圖18、訓練並對比原圖和解碼後的圖片
圖18、對比效果
閱讀更多 甜筒小哥 的文章
