조건 (가)에서 f(x)+g(x)는 x2−5x+6으로 나누어떨어지고 x2−5x+6=(x−2)(x−3)이므로
f(x)+g(x)는 x−2, x−3을 각각 인수로 갖는다. f(1)−g(1)=0이므로 f(x)−g(x)는 x−1을 인수로 가지고, 조건 (나)에서 P1(x), P2(x)는 f(x)−g(x)로 나누어떨어지므로 P1(x), P2(x)도 x−1을 인수로 갖는다.
조건 (가)에서 f(x)+g(x)는 P1(x), P2(x)로 나누어떨어지므로 f(x)+g(x)도 x−1을 인수로 갖는다.
즉, f(x)+g(x)는 x−1, x−2, x−3을 각각 인수로 갖는다. f(x), g(x)가 각각 최고차항의 계수가 1인 삼차식이므로 f(x)+g(x)는 최고차항의 계수가 2인 삼차식이고
f(x)+g(x)=2(x−1)(x−2)(x−3) ⋯⋯ ㉠
한편, f(x), g(x)가 각각 최고차항의 계수가 1인 삼차식이므로 f(x)−g(x)는 이차 이하의 다항식이다.
(ⅰ) f(x)−g(x)가 이차식인 경우
f(x)−g(x)의 이차항의 계수를 a(a=0)이라 하자.
P1(x), P2(x)가 f(x)−g(x)로 나누어떨어지고
P1(x), P2(x)가 각각 최고차항의 계수가 1인 이차식이므로
P1(x)=P2(x)=a1{f(x)−g(x)}
가 되어 P1(x), P2(x)가 서로 다른 이차식이라는 조건을 만족시키지 않는다.
(ⅱ) f(x)−g(x)가 일차식인 경우 상수 b(b=0)에 대하여
f(x)−g(x)=b(x−1) ⋯⋯ ㉡
이라 할 때, ㉠+㉡에서
2f(x)=2(x−1)(x−2)(x−3)+b(x−1)
f(x)=(x−1)(x−2)(x−3)+2b(x−1)
이므로 f(2)=2b=1에서 b=2
㉠−㉡에서
g(x)=(x−1)(x−2)(x−3)−(x−1)
(ⅲ) f(x)−g(x)가 상수인 경우 상수 c에 대하여 f(x)−g(x)=c라 하면
f(1)−g(1)=0이므로 c=0이고 f(x)−g(x)=0
즉, f(x)=g(x)가 되어 f(x), g(x)가 서로 다른 삼차식이라는 조건을 만족시키지 않는다.
(ⅰ), (ⅱ), (ⅲ)에서
g(x)=(x−1)(x−2)(x−3)−(x−1)이므로
g(3)=−(3−1)=−2