g(x)=∫0x(f(t)−∣f(t)∣)dt의 양변을 x에 대하여 미분하면 g′(x)=f(x)−∣f(x)∣이므로
g′(x)={2f(x)0(f(x)<0)(f(x)≥0)
조건 (가)에서 x≥2인 모든 x에 대하여 f(x)≥0이고 충분히 작은 양수 h에 대하여 열린구간 (2−h,2)에서 f(x)<0이다.
삼차함수 f(x)의 부호가 x=2의 좌우에서 음에서 양으로 바뀌어야 하므로 f(2)=0이다.
f(x)는 최고차항이 1인 삼차함수이고
f(0)=0, f(2)=0이며 x≥2에서 f(x)≥0이므로
f(x)=x(x−2)(x−a)를 만족시키는 실수 a(a<2)가 존재한다.
(ⅰ) 0<a<2인 경우
0<x≤a인 모든 x에 대하여 f(x)≥0이고 a<x<2인 모든 x에 대하여 f(x)<0이므로
g(2)=∫02(f(t)−∣f(t)∣)dt
=∫0a0dt+∫a22f(t)dt
=∫a22t(t−2)(t−a)dt
=∫a2{2t3−(2a+4)t2+4at}dt
=[21t4−32a+4t3+2at2]a2
=61a4−32a3+38a−38
h(x)=61x4−32x3+38x−38이라 하면
h′(x)=32x3−2x2+38=32(x+1)(x−2)2
0<x<2에서 h′(x)>0이고 h(0)=−38이므로
0<a<2인 모든 a에 대하여 h(a)>−38이다.
그러므로 조건 (나)를 만족시키지 않는다.
(ⅱ) a≤0인 경우
0<x<2인 모든 x에 대하여 f(x)<0이고 조건 (나)에서 g(2)=−8이므로
g(2)=∫02(f(t)−∣f(t)∣)dt=∫022f(t)dt
=∫022t(t−2)(t−a)dt
=∫02{2t3−(2a+4)t2+4at}dt
=[21t4−32a+4t3+2at2]02
=38a−38=−8
에서 a=−2
(ⅰ), (ⅱ)에 의하여 f(x)=x(x−2)(x+2)
따라서 f(4)=4×2×6=48