x=-1時：f(-1)=1-a+b=-1;
x=3時：f(3)=9+3a+b=3;
于是解二元一次方程組得：
a=-1,b=-3.
因而確定函數(shù)f(x)=x^2-x-3
則f(f(x))=(x^2-x-3)^2-(x^2-x-3)-3
=x^4-2x^3-6x^2+7x+9
令f(f(x))=x
則x^4-2x^3-6x^2+6x+9=0
分解因式(x+1)(x-3)(x^2-3)=0
即(x+1)(x-3)(x+√3)(x-√3)=0
所以有四個x的解屬于集合B.
B={1,-3,√3,-√3}