最小二乘法原理
在我們研究兩個變量(x,y)之間的相互關(guān)系時,通?？梢缘玫揭幌盗谐蓪Φ臄?shù)據(jù)(x1,y1、x2,y2...xm ,ym)；將這些數(shù)據(jù)描繪在x -y直角坐標(biāo)系中(如圖1),若發(fā)現(xiàn)這些點在一條直線附近,可以令這條直線方程如(式1-1).
Y計= a0 + a1 X (式1-1)
其中：a0、a1 是任意實數(shù)
為建立這直線方程就要確定a0和a1,應(yīng)用《最小二乘法原理》,將實測值Yi與利用(式1-1)計算值(Y計=a0+a1X)的離差(Yi-Y計)的平方和〔∑(Yi - Y計)2〕最小為“優(yōu)化判據(jù)”.
令:φ = ∑(Yi - Y計)2 (式1-2)
把(式1-1)代入(式1-2)中得:
φ = ∑(Yi - a0 - a1 Xi)2 (式1-3)
當(dāng)∑(Yi-Y計)平方最小時,可用函數(shù) φ 對a0、a1求偏導(dǎo)數(shù),令這兩個偏導(dǎo)數(shù)等于零.
(式1-4)
(式1-5)
亦即：
m a0 + (∑Xi ) a1 = ∑Yi (式1-6)
(∑Xi ) a0 + (∑Xi2 ) a1 = ∑(Xi,Yi) (式1-7)
得到的兩個關(guān)于a0、 a1為未知數(shù)的兩個方程組,解這兩個方程組得出：
a0 = (∑Yi) / m - a1(∑Xi) / m (式1-8)
a1 = [n∑Xi Yi - (∑Xi ∑Yi)] / [n∑Xi2 - (∑Xi)2 )] (式1-9)
這時把a0、a1代入(式1-1)中,此時的(式1-1)就是我們回歸的元線性方程即：數(shù)學(xué)模型.
在回歸過程中,回歸的關(guān)聯(lián)式是不可能全部通過每個回歸數(shù)據(jù)點(x1,y1、 x2,y2...xm,ym),為了判斷關(guān)聯(lián)式的好壞,可借助相關(guān)系數(shù)“R”,統(tǒng)計量“F”,剩余標(biāo)準(zhǔn)偏差“S”進行判斷；“R”越趨近于 1 越好；“F”的絕對值越大越好；“S”越趨近于 0 越好.
R = [∑XiYi - m (∑Xi / m)(∑Yi / m)]/ SQR{[∑Xi2 - m (∑Xi / m)2][∑Yi2 - m (∑Yi / m)2]} (式1-10) ＊
很簡單,離差的平方和具有具體的距離的意義.離差的和在總體上沒有可以表征線性關(guān)系程度的能力