f(x)=x^3+ax^2+bx+c在區(qū)間[-1,0]上是單調遞減函數,
則f′(x)=3x^2+2ax+b在區(qū)間[-1,0]上恒小于等于0,
畫出二次函數3x^2+2ax+b的圖像,可知：f′(-1) ≤0,f′(0) ≤0,
即3-2a+b≤0,b≤0.……（*）
以a為橫軸,b為縱軸畫出直角坐標系,
（*）式表示的可行域是直線3-2a+b=0右下方和b=0(即y軸)的下方的公共部分,
√(a^2+b^2)表示原點到可行域的距離,最小值是原點到直線-2a+b+3=0的距離,
為3/√5,∴a^2+b^2的最小值為9/5.