請樓主不必太相信書上的答案,特別是 練習冊上的答案.
因為不清楚樓主的學歷,所以我先介紹基本的二項式展開公式,然后再解你這個題目.
對于 (a+b)^n ,其展開式為 C(n,k) * a^(n-k) * b^k 的求和.其中 k 從 0 到n；而 C(n,k) = n!/[(n-k)!*k!] 即常見的組合公式.
基礎知識介紹完畢.下面解題.

x^2 - x + 2 = (x^2+2) - x
[(x^2+2)-x]^10 =
C(10,0)*(x^2+2)^10*(-x)^0 + C(10,1)*(x^2+2)^9*(-x)^1 + C(10,2)*(x^2+2)^8*(-x)^2 + C(10,3)*(x^2+2)^7*(-x)^3…… + C(10,9)*(x^2+2)^1*(-x)^9 + C(10,10)*(x^2+2)^10*(-x)^10
請觀察上面這個展開式.對于含有 (-x)^4 、(-x)^5 …… (-x)^10的項,其進一步展開后 必然不會含 x^3 項.
(x^2+2)的任何次方展開后始終是 x 的偶次項.與 (-x)的偶次項相乘后 也不會產生 x^3 項.
綜上所述,只有 C(10,1)(x^2+2)^9*(-x)^1 以及 C(10,3)*(x^2+2)^7*(-x)^3 能夠產生 x^3 項.
對于 (x^2+2)^9 ,其展開式中 x^2 項的是 C(9,8)*(x^2)*(2^8),
與 C(10,1)*(-x)^1 相乘后,產生整個式子的 x^3 項.其系數(shù)為
-C(10,1)*C(9,8)*2^8 = -23040
對于 (x^2+2)^7 ,其展開式中 x^0 項是 C(7,7)*[(x^2)^0]*(2^7),
它與 C(10,3)*(-x)^3 相乘后 產生這個式子的 x^3 項.其系數(shù)為
-C(10,3)*C(7,7)*2^7 = -15360
兩個系數(shù)相加 -23040 - 15360 = - 38400
這就是最后 x^3項 的系數(shù).