f′(x)=(x2+3)28x(x2+3)−4x2×2x=(x2+3)224x
양의 실수 전체의 집합에서 f′(x)>0이므로 f(x)는 증가함수이다.
두 곡선 y=f(x)와 y=g(x)의 교점은 곡선 y=f(x)와 직선 y=x의 교점과 같다.
f(x)=x에서 x3−4x2+3x=x(x−1)(x−3)=0이므로 두 곡선 y=f(x)와 y=g(x)의 교점의 x좌표는 1, 3이다.
f′′(x)=(x2+3)424(x2+3)2−24x×2(x2+3)×2x=(x2+3)372(1−x)(1+x)
곡선 y=f(x)는 열린 구간 (0,1)에서 아래로 볼록하고, 열린 구간 (1,∞)에서 위로 볼록하며, 변곡점은 (1,1)이다.
두 함수 f(x)와 g(x)의 그래프 개형은 다음과 같다.

함수 h(x)는 닫힌 구간 [1,3]에서만 h(x)≥0이고, 함수 h(x)의 그래프 개형은 다음과 같다.

ㄱ. 두 곡선 y=f(x)와 y=g(x)의 교점의 x좌표는 1, 3이므로 f(1)=g(1)=1
h(1)=0 (참)
ㄴ. 두 양수 a, b에 대하여 ∫abh(x)dx의 값이 최대가 되려면 닫힌 구간 [a,b]에서 h(x)≥0이고 b−a의 값이 최대이어야 하므로 a=1, b=3
그러므로 b−a=2 (참)
ㄷ. f(g(x))=x에서 f′(g(x))g′(x)=1이고 g′(x)=f′(g(x))1
h′(x)=f′(x)−g′(x)=f′(x)−f′(g(x))1
g′′(x)=−{f′(g(x))}2f′′(g(x))g′(x)
곡선 y=f(x)가 점 (1,1)에서만 변곡점을 가지므로 f′′(1)=0
f(1)=g(1)=1이므로
g′′(1)=−{f′(g(1))}2f′′(g(1))g′(1)=−{f′(1)}2f′′(1)g′(1)=0
h′′(1)=f′′(1)−g′′(1)=0
(ⅰ) 0<x<1인 모든 실수 x에 대하여
f′′(x)>0, g′(x)>0, 0<g(x)<1이므로
g′′(x)=−{f′(g(x))}2f′′(g(x))g′(x)<0
열린 구간 (0,1)에서
h′′(x)=f′′(x)−g′′(x)>0
(ⅱ) 1<x<4인 모든 실수 x에 대하여
g′(x)>0, g(x)>1이고 x>1인 모든 실수 x에 대하여 f′′(x)<0이므로
g′′(x)=−{f′(g(x))}2f′′(g(x))g′(x)>0
열린 구간 (1,4)에서
h′′(x)=f′′(x)−g′′(x)<0
(ⅰ), (ⅱ)에 의하여 함수 h′(x)의 증가와 감소를 표로 나타내면 다음과 같다.

함수 h′(x)는 x=1에서 최댓값을 갖는다.
f′(1)=23이므로
h′(1)=f′(1)−f′(g(1))1=f′(1)−f′(1)1=65 (거짓)
따라서 옳은 것은 ㄱ, ㄴ