数据点的最小二乘线性拟合

一、问题:

给定一个数据点的集合:

{ (xi, yi) | i = 1, 2, …, n}

现在使用线性函数 y = αx + β 对其进行线性拟合,使得拟合的误差平方和最小。

求能达到此目标的α, β值。

二、解:

CodeCogsEqnCodeCogsEqn (1)CodeCogsEqn (2)CodeCogsEqn[4]CodeCogsEqn (1)[6]

CodeCogsEqn[6]

CodeCogsEqn[8]

三、证明:

每个原始数据点为(xi,yi),其拟合的点为CodeCogsEqn[10],对每个xi,其拟合值CodeCogsEqn (2)[4]与原始值yi的误差计为:

CodeCogsEqn (1)[8]

由于此拟合是线性的,即使用CodeCogsEqn (1)[10]来作为yi的拟合值。所以

CodeCogsEqn (1)[12]

于是

CodeCogsEqn (2)[10]

CodeCogsEqn (2)[12]

则有

CodeCogsEqn (2)[14]

CodeCogsEqn (4)

现在来求能够使上式的达到最小值的参数 α,β 。

分别对α,β 求偏微分,得:

CodeCogsEqn (3)[4]

CodeCogsEqn (3)[6]

CodeCogsEqn (3)[8], 即 CodeCogsEqn (5)星星

解此二元一次方程组:

先将上面的联立方程组星星的第二个方程,两边同时乘以CodeCogsEqn (4)[6](以消去β),得

CodeCogsEqn (4)[10]

(1)-(2)得

CodeCogsEqn (5)[4]

于是

CodeCogsEqn[6]

再将联立方程组星星的第一个方程两边同时乘以CodeCogsEqn (5)[6](以消去α),得

CodeCogsEqn (4)[13]

(3)-(4)得

CodeCogsEqn (6)

于是

CodeCogsEqn[8]

证毕。

Add comment

Loading