f′(x)=3x2+6ax=3x(x+2a)
f′(x)=0에서 x=−2a 또는 x=0
(ⅰ) a>0인 경우 함수 f(x)의 증가와 감소를 표로 나타내면
| x | ⋯ | −2a | ⋯ | 0 | ⋯ |
| f′(x) | + | 0 | − | 0 | + |
| f(x) | ↗ | 극대 | ↘ | 극소 | ↗ |
함수 f(x)는 x=0에서 극솟값을 가지므로
f(0)=4a=−40
a=−10<0이므로 조건을 만족시키지 않는다.
(ⅱ) a<0인 경우 함수 f(x)의 증가와 감소를 표로 나타내면
| x | ⋯ | 0 | ⋯ | −2a | ⋯ |
| f′(x) | + | 0 | − | 0 | + |
| f(x) | ↗ | 극대 | ↘ | 극소 | ↗ |
함수 f(x)는 x=−2a에서 극솟값을 가지므로
f(−2a)=(−2a)3+3a×(−2a)2+4a
=4a3+4a=−40
a3+a+10=0, (a+2)(a2−2a+5)=0
a=−2
(ⅰ), (ⅱ)에서 a=−2이고 f(x)=x3−6x2−8
따라서 f(2)=23−6×22−8=−24