두 이차함수 f(x), g(x)의 x2의 계수를 각각 a, b(a=0,b=0)이라 하자.
x→∞limg(x)−x2f(x)=1이므로 두 다항식 f(x)와 g(x)−x2의 차수는 2이고
b−1a=1, a=b−1, b−a=1이므로 g(x)−f(x)는 최고차항의 계수가 1인 이차함수이다. x→3limx−3g(x)−f(x)의 값이 존재하므로 다항식 g(x)−f(x)는 x−3을 인수로 갖는다.
g(x)−f(x)=(x−3)(x+k)(k는 실수)
x→3limx−3g(x)−f(x)=x→3limx−3(x−3)(x+k)
=x→3lim(x+k)=3+k=8
k=5이므로 g(x)−f(x)=(x−3)(x+5)
따라서 g(5)−f(5)=20