g(x)=x3+ax2+bx+3(a,b는 상수)라 하면 합성함수 (g∘f)(x)가 실수 전체의 집합에서 연속이기 위해서는 f(x)가 불연속점 x=0,x=−2에서 연속이면 된다.
(ⅰ) x=0일 때
(g∘f)(0)=g(f(0))=g(0)=3
x→+0limg(f(x))=x→1−0limg(x)=g(1)
(∵g(x)는 삼차함수이므로 연속함수이다.)
x→+0limg(f(x))=(g∘f)(0)이므로 g(1)=3
1+a+b+3=3에서 a+b=−1⋯⋯㉠
(ⅱ) x=2일 때
(g∘f)(2)=g(f(2))=g(0)=3
x→2+0limg(f(x))=x→−1+0limg(x)=g(−1)
x→2+0limg(f(x))=(g∘f)(2)이므로 g(−1)=3
−1+a−b+3=3에서 a−b=1⋯⋯㉡
㉠, ㉡을 연립하면 a=0, b=−1
∴g(x)=x3−x+3
따라서 g(3)=27−3+3=27
[다른 풀이]
함수 f(x)는 x=0,x=2인 모든 실수 x에서 연속이고, 함수 g(x)는 모든 실수에서 연속이다.
따라서 y=(g∘f)(x)는 x=0,x=2인 모든 실수에서 연속이다.
결국 y=(g∘f)(x)가 x=0,x=2에서 연속인 조건을 구하면 된다.
g(x)가 다항함수이므로
x→0limg(f(x))=t→1limg(t)=g(1), g(f(0))=g(0)=3에서
g(1)=3⋯⋯㉠
x→2+0limg(f(x))=t→+0limg(t)=g(0)=3,
x→2−0limg(f(x))=t→−1+0limg(t)=g(−1)
g(f(2))=g(0)=3
∴g(−1)=g(0)=3⋯⋯㉡
㉠, ㉡에서 g(0)=g(1)=g(−1)=3이고, 이는 g(x)−3이 서로 다른 세 실근 x=−1,0,1을 가진다는 의미이다.
∴g(x)=x(x−1)(x+1)+3
따라서 g(3)=3⋅4⋅2+3=27