研一小姑娘今天分享機器學習之線性模型——最小二乘法

這兩天在準備應用統計碩士案例分析比賽的前期工作,慕課網上這周的內容也跟著學完了,那今天就先和大家分享一下我自讀機器學習這本書裡的讀書筆記咯~


研一小姑娘今天分享機器學習之線性模型——最小二乘法

線性模型是處理屬性變量和響應變量關係的基礎模型


研一小姑娘今天分享機器學習之線性模型——最小二乘法

定義模型,最重要的是使損失最小


研一小姑娘今天分享機器學習之線性模型——最小二乘法

平方差是常用的損失函數類型


研一小姑娘今天分享機器學習之線性模型——最小二乘法

對變量求偏導,並令其偏導數為0,可以得到一個駐點


研一小姑娘今天分享機器學習之線性模型——最小二乘法

求二階導可以判斷該駐點是否為極值點


研一小姑娘今天分享機器學習之線性模型——最小二乘法

套用公式,即可得到結果值


研一小姑娘今天分享機器學習之線性模型——最小二乘法

接下來就是做預測,詳細數據在書上,這裡就不多描述


研一小姑娘今天分享機器學習之線性模型——最小二乘法

當變量增多時,上述方法會費時費力


研一小姑娘今天分享機器學習之線性模型——最小二乘法

選取向量和矩陣的形式來表達會更簡便


研一小姑娘今天分享機器學習之線性模型——最小二乘法

用矩陣和向量進行計算


研一小姑娘今天分享機器學習之線性模型——最小二乘法

穿插一下矩陣的計算方法


研一小姑娘今天分享機器學習之線性模型——最小二乘法

這裡就得到了由矩陣表達的結果


研一小姑娘今天分享機器學習之線性模型——最小二乘法

經計算,確實與之前的算法得出的結果一致


研一小姑娘今天分享機器學習之線性模型——最小二乘法

小結:使用矩陣或者向量來表達含有多個屬性的變量會更加容易計算

今天的分享就到這裡咯,以上筆記只是較為詳細地對線性模型以及選用最小二乘法作為計算損失函數的方法做了說明。對於線性模型,它可以增加更多的屬性,更多的變量,除此之外,還有線性模型的非線性響應,想要了解更多就請期待我下次學習筆記的分享咯~

明天將要分享的是python爬蟲,爬取豆瓣電影排行TOP250的電影,以及相關信息,為這次的比賽做數據準備工作,明天見啦~


分享到:


相關文章: