[출제의도] 함수의 연속성을 이용하여 문제를 해결한다.
직선 y=mx는 실수 m의 값에 관계없이 항상 원점을 지나므로 직선 y=mx와 함수
f(x)={x+43x+2(x<1)(x≥1)의 그래프는 다음과 같다.

그러므로 함수 g(m)은
g(m)={10(m<1또는m>3)(1≤m≤3)
즉, 함수 g(m)은 m=1과 m=3에서 불연속이다.
그런데 함수 g(x)h(x)가 실수 전체의 집합에서 연속이므로
x=1, x=3에서도 연속이 되어야 한다.
(ⅰ) x=1일 때
x→1−limg(x)h(x)=1×h(1)=h(1),
x→1+limg(x)h(x)=0×h(1)=0
함수 g(x)h(x)는 x=1에서 연속이므로
x→1limg(x)h(x)의 값이 존재한다.
즉, x→1−limg(x)h(x)=x→1+limg(x)h(x)에서 h(1)=0
(ⅱ) x=3일 때
x→3−limg(x)h(x)=0×h(3)=0,
x→3+limg(x)h(x)=1×h(3)=h(3)
함수 g(x)h(x)는 x=3에서 연속이므로
x→3limg(x)h(x)의 값이 존재한다.
즉, x→3−limg(x)h(x)=x→3+limg(x)h(x)에서 h(3)=0
(ⅰ), (ⅱ)에서 h(1)=h(3)=0이므로 최고차항의 계수가 1인 이차함수 h(x)는 h(x)=(x−1)(x−3)
따라서 h(5)=4×2=8