x²-3xy+2y²=0
(x-y)(x-2y)=0
x=y或x=2y
x=y代入方程x²+y²=20得2y²=20 y²=10
x=y=√10或x=y=-√10
x=2y代入方程x²+y²=20得5y²=20 y²=4
y=2或y=-2
y=2時,x=4；y=-2時,x=-4
綜上,得方程組的解共4組：
x=√10 y=√10
x=-√10 y=-√10
x=4 y=2
x=-4 y=-2