조건 (나)에서 x→3일 때, (분모)→0이므로 (분자)→0 이어야 한다.
x→3lim{f(x)−g(x)}=0
∴ f(3)=g(3)
또한, f(x)와 g(x)는 서로 역함수의 관계이므로
f(3)=g(3)=3…㉠
x→3lim(x−3)g(x)f(x)−g(x)
=x→3lim(x−3)g(x)f(x)−f(3)−g(x)+g(3)
=x→3lim{x−3f(x)−f(3)×g(x)1−x−3g(x)−g(3)×g(x)1}
=f′(3)×g(3)1−g′(3)×g(3)1
=31{f′(3)−g′(3)}=98
이때, g′(3)=f′(g(3))1=f′(3)1이므로
31{f′(3)−f′(3)1}=98
3{f′(3)}2−8f′(3)−3=0
{3f′(3)+1}{f′(3)−3}=0
∴ f′(3)=−31 또는 f′(3)=3
그런데, f(x)의 삼차항의 계수는 양수이고 역함수가 존재해야 하므로
f′(x)≥0 이다.
∴ f′(3)=3…㉡
㉠에 의하여
f(x)−3=(x−3)(x2+ax+b)
라 하고 양변을 x에 대하여 미분하면
f′(x)=x2+ax+b+(x−3)(2x+a)…㉢
㉡에 의하여
f′(3)=9+3a+b=3
∴ 3a+b=−6…㉣
㉢의 양변을 x에 대하여 미분하면
f′′(x)=2x+a+(2x+a)+2(x−3)
=6x+2a−6
이때, 변곡점의 x좌표는
6x+2a−6=0 에서
x=33−a
그런데, f′(3)=3 에서
g′(3)=f′(3)1=31
이므로 조건 (가)에 의하여 f(x)의 변곡점의 x좌표는 3이 되어야 한다. 즉,
33−a=3
∴ a=−6
㉣에 대입하면 b=12 이므로
f(x)−3=(x−3)(x2+ax+b)
=(x−3)(x2−6x+12)
∴ f(1)=−2×7+3=−11