f(x)g(x)를 f(x)−2x2으로 나누었을 때의 몫은 x2−3x+3이고 나머지는 f(x)+xg(x)이므로
f(x)g(x)={f(x)−2x2}(x2−3x+3)+f(x)+xg(x) ⋯⋯ ㉠
이다.
㉠의 좌변이 삼차식이므로 우변도 삼차식이다. {f(x)−2x2}(x2−3x+3)이 삼차식이므로 f(x)−2x2은 일차식이고 나머지 f(x)+xg(x)는 상수이다. f(x)−2x2=ax+b라 하면 나머지 f(x)+xg(x)=(2x2+ax+b)+xg(x)는 상수이므로 g(x)=−2x−a이고 f(x)+xg(x)=b이다.
㉠에 f(x)=2x2+ax+b, g(x)=−2x−a를 대입하면
(2x2+ax+b)(−2x−a)
=(ax+b)(x2−3x+3)+b ⋯⋯ ㉡
이다.
㉡의 좌변의 최고차항의 계수가 −4이므로 a=−4이다.
㉡의 양변에 x=2를 대입하면
0=(−8+b)×1+b에서 b=4이다.
따라서 f(x)=2x2−4x+4이므로 f(−2)=20이다.