ㄱ. f(x)는 폐구간 [0,5]에서 연속이므로
함수 {f(x)}2,(f∘f)(x)는 모두 폐구간 [0,5]에서 연속이다.
따라서 함수 g(x)가 x=3에서 연속이면
g(x)는 폐구간 [0,5]에서 연속이다.
x→3−0limg(x)=x→3−0lim{f(x)}2=12=1
x→3+0limg(x)=x→3+0lim(f∘f)(x)=t→1−0limf(t)=2
∴x→3−0limg(x)=x→3+0limg(x)
따라서 함수 g(x)는 x=3에서 불연속이므로 폐구간 [0,5]에서 연속이 아니다.
ㄴ. f(x)는 폐구간 [0,3]에서 연속이므로
함수 {f(x)}2는 폐구간 [0,3]에서 연속이다.
한편, 함수 f(x)는 x=4인 모든 x에서 연속이므로 합성함수 (f∘f)(x)는 x=4이고 f(x)=4인 x에서 연속이다.
따라서 함수 g(x)가 x=3에서 연속이고 x=4에서 연속이면 g(x)는 폐구간 [0,5]에서 연속이다.
(i) x=3에서의 연속성
x→3−0limg(x)=x→3−0lim{f(x)}2=22=4
x→3+0limg(x)=x→3+0lim(f∘f)(x)=t→2−0limf(t)=4
g(3)={f(3)}2=22=4
∴ x→3−0limg(x)=x→3+0limg(x)=g(3)
따라서 함수 g(x)는 x=3에서 연속이다.
(ii) x=4에서의 연속성
x→4−0limg(x)=x→4−0lim(f∘f)(x)=t→+0limf(t)=3
x→4+0limg(x)=x→4+0lim(f∘f)(x)=t→1+0limf(t)=3
g(4)=f(f(4))=f(0)=3
∴ x→4−0limg(x)=x→4+0limg(x)=g(4)
따라서 함수 g(x)는 x=4에서 연속이다.
(i), (ii)에서 함수 g(x)는 폐구간 [0,5]에서 연속이다.
ㄷ. f(x)는 폐구간 [0,3]에서 연속이므로
함수 {f(x)}2는 폐구간 [0,3]에서 연속이다.
한편, 함수 f(x)는 x=4인 모든 x에서 연속이므로 합성함수 (f∘f)(x)는 x=4이고 f(x)=4인 x에서 연속이다.
따라서 함수 g(x)가 x=3에서 연속이고 x=4에서 연속이면 g(x)는 폐구간 [0,5]에서 연속이다.
(i) x=3에서의 연속성
x→3−0limg(x)=x→3−0lim{f(x)}2=22=4
x→3+0limg(x)=x→3+0lim(f∘f)(x)=t→2−0limf(t)=4
g(3)={f(3)}2=22=4
∴ x→3−0limg(x)=x→3+0limg(x)=g(3)
따라서 함수 g(x)는 x=3에서 연속이다.
(ii) x=4에서의 연속성
x→4−0limg(x)=x→4−0lim(f∘f)(x)=t→+0limf(t)=2
x→4+0limg(x)=x→4+0lim(f∘f)(x)=t→1+0limf(t)=3
∴ x→4−0limg(x)=x→4+0limg(x)
따라서 함수 g(x)는 x=4에서 불연속이므로 폐구간 [0,5]에서 연속이 아니다.
이상에서 함수 g(x)가 폐구간 [0,5]에서 연속이 되도록 하는 함수 f(x)의 그래프는 ㄴ이다.