함수 g(x)가
g(x)=∫0x(∣f(t)∣−∣t∣)dt 이므로
g′(x)=∣f(x)∣−∣x∣
g′(0)=∣f(0)∣−0=0이므로 조건 (가)에 의하여 방정식 g′(x)=0은 x=0을 제외한 서로 다른 실근의 개수가 3이어야 한다.
조건 (나)에서 함수 g(x)는 x=2, x=6에서 극값을 가지므로
g′(2)=g′(6)=0
따라서 방정식 g′(x)=0은 0, 2, 6을 근으로 가진다.
이때 f(6)의 부호에 따라 함수 y=f(x)의 그래프를 분류하면 다음과 같다.
(ⅰ) f(6)≤0일 때
(a) f(2)=−2인 경우

위의 그림과 같이 f(6)≤0, f(2)=−2인 경우 방정식 g′(x)=0, 즉 ∣f(x)∣=∣x∣의 서로 다른 실근의 개수가 4이려면 직선 y=x가 y=f(x)의 그래프에 접하고 함수 y=f(x)의 그래프와 직선 y=−x의 교점의 x좌표가 0, 2, 6이어야 한다.
이때 f(6)<0이고 0≤x≤2에서 ∣f(x)∣≤∣x∣이므로
g(2)<0, f(6)g(2)>0
그런데 조건에서 f(6)g(2)<0이어야 하므로 모순이다.
(b) f(2)=2인 경우

f(2)=2, f(6)=−6일 때 함수 g(x)가 x=6에서 극값을 가지므로 2<x<6에서 g′(x)=0을 만족시키는 실근이 존재한다.
따라서 방정식 g′(x)=0의 서로 다른 실근의 개수가 5이므로 조건 (가)를 만족시키지 못한다.
(ⅱ) f(6)>0일 때

f(α)=−α(2<α<6)이고 함수 y=f(x)의 그래프가 직선 y=x에 접할 때 방정식 g′(x)=0의 서로 다른 실근은 0, 2, α, 6이고 개수는 4이다.
이때 f(6)>0이고 0≤x≤2에서 ∣f(x)∣≤∣x∣이므로
g(2)<0, f(6)g(2)<0
주어진 조건을 만족시킨다.
(ⅰ), (ⅱ)에서 만족시키는 함수 y=f(x)의 그래프는 직선 y=x와 접하고 f(6)=6이므로 삼차함수 f(x)−x는 x2, x−6을 인수로 가진다.
f(x)−x=kx2(x−6), 즉 f(x)=kx2(x−6)+x
라 하면 f(2)=−2이므로
−2=k×22×(2−6)+2, k=41
∴ f(x)=41x2(x−6)+x
∴ f(8)=41×82×(8−6)+8=40