함수 h(x)={g(x)f(x)3(x=2)(x=2)이고, x→∞limh(x)=3이므로 두 삼차함수 f(x), g(x)의 최고차항의 계수의 비는 3:1이다.
함수 h(x)는 실수 전체의 집합에서 연속이므로 x=2인 모든 실수 x에 대하여
g(x)=0 ⋯⋯ ㉠
삼차함수 y=g(x)의 그래프는 x축과 적어도 한 점에서 만나므로 ㉠에 의하여
g(2)=0
함수 h(x)는 x=2에서 연속이므로
x→2limh(x)=h(2), x→2limg(x)f(x)=3
x→2일 때 (분모)→0이고 극한값이 존재하므로 (분자)→0이다.
x→2limf(x)=0 ∴ f(2)=0
x→1limh(x)1=∞, 즉 x→1limf(x)g(x)=∞이므로 f(x)는 x−1을 인수로 갖는다. 자연수 n에 대하여
x→1−lim(x−1)2n−11=−∞, x→1+lim(x−1)2n−11=∞
이고,
x→1lim(x−1)2n1=∞
이므로 f(x)는 (x−1)2을 인수로 갖는다.
h(x)={(x−2)(x2+ax+b)3(x−1)2(x−2)3(x=2)(x=2)
={x2+ax+b3(x−1)23(x=2)(x=2)
x→2limg(x)f(x)=3, 즉 x→2limh(x)=3에서
x→2limh(x)=x→2limx2+ax+b3(x−1)2=2a+b+43
2a+b+43=3이므로 2a+b+4=1, b=−2a−3
h(x)={x2+ax−2a−33(x−1)23(x=2)(x=2)
방정식 h(x)=12는 오직 한 실근을 갖는다. h(2)=3이므로 방정식의 한 실근은 2가 아니다. h(x)=12에서
x2+ax−2a−33(x−1)2=12
3x2+2(2a+1)x−8a−13=0
방정식 3x2+2(2a+1)x−8a−13=0은 x=2인 오직 한 실근을 가지므로 중근을 갖는다.
판별식을 D1이라 하면
4D1=(2a+1)2+3(8a+13)=0
a=−5 또는 a=−2
㉠에 의하여 x=2인 모든 실수 x에 대하여
x2+ax+b=0, 즉 x2+ax−2a−3=0
이므로 방정식 x2+ax−2a−3=0의 판별식을 D2라 하면
D2=a2−4(−2a−3)<0, −6<a<−2
∴ a=−5
따라서 함수 h(x)는
h(x)={x2−5x+73(x−1)23(x=2)(x=2)
이므로 h(0)=73이다.