研一小姑娘今天分享机器学习之线性模型——最小二乘法

这两天在准备应用统计硕士案例分析比赛的前期工作,慕课网上这周的内容也跟着学完了,那今天就先和大家分享一下我自读机器学习这本书里的读书笔记咯~


研一小姑娘今天分享机器学习之线性模型——最小二乘法

线性模型是处理属性变量和响应变量关系的基础模型


研一小姑娘今天分享机器学习之线性模型——最小二乘法

定义模型,最重要的是使损失最小


研一小姑娘今天分享机器学习之线性模型——最小二乘法

平方差是常用的损失函数类型


研一小姑娘今天分享机器学习之线性模型——最小二乘法

对变量求偏导,并令其偏导数为0,可以得到一个驻点


研一小姑娘今天分享机器学习之线性模型——最小二乘法

求二阶导可以判断该驻点是否为极值点


研一小姑娘今天分享机器学习之线性模型——最小二乘法

套用公式,即可得到结果值


研一小姑娘今天分享机器学习之线性模型——最小二乘法

接下来就是做预测,详细数据在书上,这里就不多描述


研一小姑娘今天分享机器学习之线性模型——最小二乘法

当变量增多时,上述方法会费时费力


研一小姑娘今天分享机器学习之线性模型——最小二乘法

选取向量和矩阵的形式来表达会更简便


研一小姑娘今天分享机器学习之线性模型——最小二乘法

用矩阵和向量进行计算


研一小姑娘今天分享机器学习之线性模型——最小二乘法

穿插一下矩阵的计算方法


研一小姑娘今天分享机器学习之线性模型——最小二乘法

这里就得到了由矩阵表达的结果


研一小姑娘今天分享机器学习之线性模型——最小二乘法

经计算,确实与之前的算法得出的结果一致


研一小姑娘今天分享机器学习之线性模型——最小二乘法

小结:使用矩阵或者向量来表达含有多个属性的变量会更加容易计算

今天的分享就到这里咯,以上笔记只是较为详细地对线性模型以及选用最小二乘法作为计算损失函数的方法做了说明。对于线性模型,它可以增加更多的属性,更多的变量,除此之外,还有线性模型的非线性响应,想要了解更多就请期待我下次学习笔记的分享咯~

明天将要分享的是python爬虫,爬取豆瓣电影排行TOP250的电影,以及相关信息,为这次的比赛做数据准备工作,明天见啦~


分享到:


相關文章: