最小二乘法原理
　　在我們研究兩個變量(x,y)之間的相互關(guān)系時,通常可以得到一系列成對的數(shù)據(jù)(x1,y1、x2,y2...xm ,ym)；將這些數(shù)據(jù)描繪在x -y直角坐標(biāo)系中(如圖1),若發(fā)現(xiàn)這些點在一條直線附近,可以令這條直線方程如(式1-1).
　　Y計= a0 + a1 X (式1-1)
　　其中：a0、a1 是任意實數(shù)
　　為建立這直線方程就要確定a0和a1,應(yīng)用《最小二乘法原理》,將實測值Yi與利用(式1-1)計算值(Y計=a0+a1X)的離差(Yi-Y計)的平方和〔∑(Yi - Y計)2〕最小為“優(yōu)化判據(jù)”.
　　令:φ = ∑(Yi - Y計)2 (式1-2)
　　把(式1-1)代入(式1-2)中得:
　　φ = ∑(Yi - a0 - a1 Xi)2 (式1-3)
　　當(dāng)∑(Yi-Y計)平方最小時,可用函數(shù) φ 對a0、a1求偏導(dǎo)數(shù),令這兩個偏導(dǎo)數(shù)等于零.
　　(式1-4)
　　(式1-5)
　　亦即：
　　m a0 + (∑Xi ) a1 = ∑Yi (式1-6)
　　(∑Xi ) a0 + (∑Xi2 ) a1 = ∑(Xi,Yi) (式1-7)
　　得到的兩個關(guān)于a0、 a1為未知數(shù)的兩個方程組,解這兩個方程組得出：
　　a0 = (∑Yi) / m - a1(∑Xi) / m (式1-8)
　　a1 = [∑Xi Yi - (∑Xi ∑Yi)] / [∑Xi2 - (∑Xi)2 )] (式1-9)
　　這時把a0、a1代入(式1-1)中,此時的(式1-1)就是我們回歸的元線性方程即：數(shù)學(xué)模型.
　　在回歸過程中,回歸的關(guān)聯(lián)式是不可能全部通過每個回歸數(shù)據(jù)點(x1,y1、 x2,y2...xm,ym),為了判斷關(guān)聯(lián)式的好壞,可借助相關(guān)系數(shù)“R”,統(tǒng)計量“F”,剩余標(biāo)準(zhǔn)偏差“S”進行判斷；“R”越趨近于 1 越好；“F”的絕對值越大越好；“S”越趨近于 0 越好.
　　R = [∑XiYi - m (∑Xi / m)(∑Yi / m)]/ SQR{[∑Xi2 - m (∑Xi / m)2][∑Yi2 - m (∑Yi / m)2]} (式1-10) ＊
　　在(式1-1)中,m為樣本容量,即實驗次數(shù)；Xi、Yi分別任意一組實驗X、Y的數(shù)值.微積分應(yīng)用課題一 最小二乘法
　　從前面的學(xué)習(xí)中,我們知道最小二乘法可以用來處理一組數(shù)據(jù),可以從一組測定的數(shù)據(jù)中尋求變量之間的依賴關(guān)系,這種函數(shù)關(guān)系稱為經(jīng)驗公式.本課題將介紹最小二乘法的精確定義及如何尋求 與 之間近似成線性關(guān)系時的經(jīng)驗公式.假定實驗測得變量之間的 個數(shù)據(jù) ,,…,,則在 平面上,可以得到 個點 ,這種圖形稱為“散點圖”,從圖中可以粗略看出這些點大致散落在某直線近旁,我們認(rèn)為 與 之間近似為一線性函數(shù),下面介紹求解步驟.
　　考慮函數(shù) ,其中 和 是待定常數(shù).如果 在一直線上,可以認(rèn)為變量之間的關(guān)系為 .但一般說來,這些點不可能在同一直線上.記 ,它反映了用直線 來描述 ,時,計算值 與實際值 產(chǎn)生的偏差.當(dāng)然要求偏差越小越好,但由于 可正可負(fù),因此不能認(rèn)為總偏差 時,函數(shù) 就很好地反映了變量之間的關(guān)系,因為此時每個偏差的絕對值可能很大.為了改進這一缺陷,就考慮用 來代替 .但是由于絕對值不易作解析運算,因此,進一步用 來度量總偏差.因偏差的平方和最小可以保證每個偏差都不會很大.于是問題歸結(jié)為確定 中的常數(shù) 和 ,使 為最小.用這種方法確定系數(shù) ,的方法稱為最小二乘法.