機器學習之學習曲線

機器學習之學習曲線

學習曲線是學習算法一個很好的合理檢驗,幫助我們判斷某一個學習算法是否處於偏差,方差問題

1.高偏差下的學習曲線

機器學習之學習曲線

高偏差/欠擬合情況下, 增加數據到訓練集,對於改善是否效果無益

2.高方差下的學習曲線

機器學習之學習曲線

機器學習之學習曲線

機器學習之學習曲線

4.神經網絡和方差,偏差

1.使用較小的神經網絡,由於參數較少,容易導致欠擬合,高偏差。 較大的神經網絡,容易導致過擬合,高方差。

2.通常的說,大型神經網絡並正則化處理會比較小的神經網絡效果更好

對於神經網絡的層數,我們也可以使用吧數據集分為訓練集,交叉驗證集,測試集三部分。針對不同隱藏層層數網絡進行訓練最後通過交叉驗證集選擇代價最小的網絡


分享到:


相關文章: