f(x1,x2,x3)=2x1x2+2x1x3+2x2x3對應的實對稱矩陣為
A=[(0,1,1)T,(1,0,1) T,(1,1,0) T];下面將其對角化：
先求A的特征值,由|kE-A|=|(k,-1,-1) T,(-1,k,-1) T,(-1,-1,k) T |=（k-2）*（k+1）^2=0
解得：k=2或k=-1（二重）.
下求方程（kE-A）Z=0的解向量
對特征值k=2,（2E-A）Z=0解得特征向量Z=(1,1,1)T,
單位化α1=(1/√3,1/√3,1/√3) T.
對特征值k=-1,（-E-A）Z=0解得特征向量Z=（1,-1,0）T或（1,0,-1）T,
Schmidt正交化得
α2=（1/√2,-1/√2,0）T,α3=(1/√6,1/√6,-2/√6) T,
取正交矩陣P=(α1,α2,α3)
=[ (1/√3,1/√3,1/√3) T,（1/√2,-1/√2,0）T,(1/√6,1/√6,-2/√6) T]
則有PTAP=diag（2,-1,-1）.
對二次型f(x1,x2,x3)=2x1x2+2x1x3+2x2x3=XTAX作正交變換X=PY得
f（X）=YT(QTAQ)Y=2y1^2-y2^2-y3^2.
得到標準型f（Y）,P為所求正交變換.
T代表對矩陣或向量的轉置.
建議找本線性代數(shù)的書看看,實際上就是實對稱矩陣的對角化.過程比較繁瑣,建議檢驗一下.