[출제의도] 정적분으로 정의된 함수를 이용하여 문제를 해결한다.
f(x)가 최고차항의 계수가 4인 삼차함수이므로
g(x)=∫txf(s)ds는 최고차항의 계수가 1인 사차함수이고 실수 전체의 집합에서 함수 g(x)−g(a)는 미분가능하다.
g(x)≥g(a)일 때, ∣g(x)−g(a)∣=g(x)−g(a)
g(x)<g(a)일 때, ∣g(x)−g(a)∣=−{g(x)−g(a)}
이므로 함수 ∣g(x)−g(a)∣은 g(x)−g(a)=0인 모든 x에서 미분가능하다.
g(x)−g(a)=0를 만족시키는 x의 값을 k라 하면,
g(k)=g(a)이므로
x−k∣g(x)−g(a)∣−∣g(k)−g(a)∣=x−k∣g(x)−g(k)∣
(ⅰ) x=k의 좌우에서 g(x)−g(a)의 부호가 같을 때
x→k−limx−k∣g(x)−g(k)∣=x→k+limx−k∣g(x)−g(k)∣
이므로 함수 ∣g(x)−g(a)∣는 x=k에서 미분가능하다.
(ⅱ) x=k의 좌우에서 g(x)−g(a)의 부호가 다르고 f(k)=0일 때
x→k−limx−k∣g(x)−g(k)∣=x→k+limx−k∣g(x)−g(k)∣
이므로 함수 ∣g(x)−g(a)∣는 x=k에서 미분가능하다.
(ⅲ) x=k의 좌우에서 g(x)−g(a)의 부호가 다르고 f(k)=0일 때,
x→k−limx−k∣g(x)−g(a)∣=x→k+limx−k∣g(x)−g(a)∣
이므로 함수 ∣g(x)−g(a)∣는 x=k에서 미분가능하지 않다.
(나)에서 함수 ∣g(x)−g(a)∣가 미분가능하지 않은 x의 개수가 1이므로
g(x)−g(a)=0, g′(x)=f(x)=0
인 x가 단 하나 존재한다는 것을 알 수 있다.
그러므로 사차함수 y=g(x)는 단 하나의 극솟값을 갖고 함수 g(x)의 그래프와 직선 y=g(a)는 서로 다른 두 점에서 만난다.
g′(x)=0인 방정식 g(x)−g(a)=0의 근을 α, 함수 g(x)가 극솟값을 가질 때의 x의 값을 β라 하면 α, β의 대소관계에 따라 다음과 같이 두 경우로 나눌 수 있다.
(ⅰ) α<β인 경우 (단, g(γ)=g(α), β<γ)

함수 y=g(x)의 도함수 y=f(x)의 그래프를 그려 보면

g(α)=g(γ)=g(a)이므로 α=a 또는 γ=a
(가)에서 f′(a)=0이므로 α=a이다.
따라서 f(x)=4(x−a)2(x−β)이다.
h(t)=g(a)=∫taf(s)ds=−∫atf(s)ds에서
h′(t)=−f(t)
함수 h(t)가 t=2에서 최댓값, 즉 극댓값을 가지므로 h′(2)=−f(2)=0
따라서 a=2 또는 β=2이다.
a=2이면 h(2)=∫22f(t)dt=0=27 이므로 a=2
β=2이면
h(3)=∫3af(s)ds=0이고,
h(2)=∫2af(s)ds=27이므로
h(2)−h(3)=∫23f(s)ds=27이다.
∫23f(s)ds=∫234(s−a)2(s−2)ds
=∫234{s3−2(a+1)s2+(a2+4a)s−2a2}ds
=[s4−38(a+1)s3+2(a2+4a)s2−8a2s]23
=65−3152(a+1)+10(a2+4a)−8a2
=2a2−332a+343=27
이므로
3a2−16a−19=0
(a+1)(3a−19)=0
a=−1 또는 a=319
a<2이므로 a=−1이다.
f(x)=4(x+1)2(x−2)라 하면 함수 f(x)는 주어진 조건을 만족시킨다.
(ⅱ) α>β인 경우 (단, g(γ)=g(α), γ<β)

함수 y=g(x)의 도함수 y=f(x)의 그래프를 그려 보면

(가)에서 f′(a)=0이므로 α=a이다.
따라서 f(x)=4(x−a)2(x−β)이다.
α<β인 경우와 마찬가지로 β=2이다.
f(x)=4(x−a)2(x−2)
a=3이면 h(3)=∫3af(s)ds=0이므로 a=3
따라서 f(x)=4(x−3)2(x−2)이고
h(2)=∫2af(s)ds=∫234(s−3)2(s−2)ds=31
h(2)=27이므로 주어진 조건을 만족시키는 함수 f(x)가 존재하지 않는다.
따라서 f(x)=4(x+1)2(x−2)이다.
f(5)=4×36×3=432