对样本,,,的一组观察值,,,,对每个,由线性回归方程可以确定一个回归值,这个回归值与实际观察值之差刻划了与回归直线
的偏离程度. 一个自然的想法是:对所有,若与的偏离越小,则认为直线与所有试验点拟合得越好,令
,
上式表示所有观察值与回归直线值的偏离平方和,它刻划了所有观察值与回归直线的偏离程度.
所谓最小二乘法就是估计,,使
.
求关于的偏导数,并令其为零,得
整理得到正规方程组
解正规方程组得
其中,,若记
则(分别称为的最小二乘估计).