h(x)=f(x)−g(x)=5x3−10x2+k−(5x2+2)
=5x3−15x2+k−2
라 하면 {x∣0<x<3}에서 부등식 h(x)≥0이 성립하는 k의 최소값을 구하면 된다.
h′(x)=15x2−30x=15x(x−2)=0에서 x=0 또는 x=2이므로 h(x)는 x=0일 때 극대값을, x=2일 때 극소값을 갖는다.
따라서, {x∣0<x<3}에서 h(x)는 x=2일 때 최소가 되고 h(2)=k−22이므로 {x∣0<x<3}에서 h(x)≥0이려면 k−22≥0이면 된다.
∴ k≥22
따라서, k의 최소값은 22이다.