x→3limg(x)=g(3)−1이므로 함수 g(x)는 x=3에서 불연속이다.
함수 f(x)는 최고차항의 계수가 1인 삼차함수이다. f(k)=0인 임의의 실수 k에 대하여
x→klimg(x)=x→klimf(x)f(x+3){f(x)+1}=f(k)f(k+3){f(k)+1}
x→klimg(x)=g(k)이므로 함수 g(x)는 x=k에서 연속이다.
∴f(3)=0
g(3)=3이므로 x→3limg(x)=2이다.
x→3limf(x)f(x+3){f(x)+1}=2
x→3일 때 (분모)→0이고 극한값이 존재하므로 (분자)→0이다.
x→3lim[f(x+3){f(x)+1}]=0
f(6)=0 또는 f(3)=−1 ∴f(6)=0
f(3)=0, f(6)=0이므로
f(x)=(x−3)(x−6)(x+a)(a는 상수)
라 하자. x→3limf(x)f(x+3){f(x)+1}=2에서
x→3limf(x)f(x+3){f(x)+1}
=x→3lim(x−3)(x−6)(x+a)x(x−3)(x+a+3){(x−3)(x−6)(x+a)+1}
=x→3lim(x−6)(x+a)x(x+a+3){(x−3)(x−6)(x+a)+1}
(ⅰ) a=−3일 때
x→3lim(x−6)(x+a)x(x+a+3){(x−3)(x−6)(x+a)+1}
=x→3lim(x−6)(x−3)x2{(x−3)2(x−6)+1}
x→3일 때 (분모)→0이고, (분자)→9이므로 x→3limf(x)f(x+3){f(x)+1}의 값이 존재하지 않는다.
(ⅱ) a=−3일 때
x→3lim(x−6)(x+a)x(x+a+3){(x−3)(x−6)(x+a)+1}
=−3(a+3)3(a+6)
=−a+3a+6
−a+3a+6=2이므로 a=−4
(ⅰ), (ⅱ)에 의하여 함수 f(x)는
f(x)=(x−3)(x−6)(x−4)
f(5)=0이므로
g(5)=f(5)f(8){f(5)+1}=20