m=7或m=-17,
令y=0得
原式=6x²+3x-3=3(2x-1)(x+1)
因此可設:
原式=3(2x+ay-1)(x+by+1)
=6x²+3(a+2b)xy+3aby²+3x+3(a-b)y-3
所以
m=3(a+2b)
3ab=-3
3(a-b)=10
a-b=10/3
ab=-1
解得
a=3,b=-1/3或a=1/3,b=-3
當a=3,b=-1/3時
m=3(a+2b)=7
原式=6x²+7xy-3y²+3x+10y-3
=3(2x+ay-1)(x+by+1)
=(2x+3y-1)(3x-y+3)
當a=1/3,b=-3時
m=3(a+2b)=-17
原式=6x²-17xy-3y²+3x+10y-3
=3(2x+ay-1)(x+by+1)
=(6x+y-3)(x-3y+1)