x²-2xy-3y²+3x-5y+k
=(x-3y)(x+y)+3x-5y+k
分解成兩個一次因式的積
則=(x-3y+a)(x+y+b)
=(x-3y)(x+y)+a(x+y)+b(x-3y)+ab
=(x-3y)(x+y)+(a+b)x+(a-3b)y+ab
=(x-3y)(x+y)+3x-5y+k
所以a+b=3
a-3b=-5
ab=k
所以b=2,a=1
所以k=ab=2