最小二乘法是一種數(shù)學優(yōu)化技術,它通過最小化誤差的平方和找到一組數(shù)據(jù)的最佳函數(shù)匹配.
最小二乘法是用最簡的方法求得一些絕對不可知的真值,而令誤差平方之和為最小.
最小二乘法通常用于曲線擬合.很多其他的優(yōu)化問題也可通過最小化能量或最大化熵用最小二乘形式表達.
比如從最簡單的一次函數(shù)y=kx+b講起
已知坐標軸上有些點(1.1,2.0),(2.1,3.2),(3,4.0),(4,6),(5.1,6.0),求經(jīng)過這些點的圖象的一次函數(shù)關系式.
當然這條直線不可能經(jīng)過每一個點,我們只要做到5個點到這條直線的距離的平方和最小即可,這這就需要用到最小二乘法的思想.然后就用線性擬合來求.講起來一大堆.