f′(−1)=3(−1)(1)(2)=a이므로 a=−6이며,
t=x3,dxdt=3x2이므로(t=x3이 1-1대응 함수이며 증가함수)
f′(t)=(4t3+18t2+22t+6)⋅3x2이며, 이때 3x2≥0이므로
2t3+9t2+11t+3의 부호를 살펴보자.
2t3+9t2+11t+3=(2t+3)(t2+3t+1)이므로
t2+3t+1=0의 한 근을 α라 하면,
y=f(t)는 t=α일 때, 최솟값을 갖는다.
따라서 f(α)=α(α+1)(α+2)(α+3)=(α2+3α)(α2+3α+2)
=−1(∵α2+3α+1=0)
즉 b=−1이다.
그러므로 a2+b2=37