(가)에서 A(x)B(x)를 x2−2x+1로 나눈 나머지는 0이고 (나)에서 B(1)=0이므로 A(x)와 B(x)는 다음의 두 가지 꼴 중 하나이다.
(ⅰ) A(x)=x3+ax2+bx+c (a, b, c는 상수),
B(x)=(x−1)2인 경우
(B(x))2=(x−1)4=(x−1)(x−2)Q(x)+16(x−1)
x=2를 대입하면 식이 성립하지 않는다.
(ⅱ) A(x)=(x−1)(x2+lx+m),
B(x)=(x−1)(x+n)인 경우 (l, m, n은 상수, n=−1)
(B(x))2=(x−1)2(x+n)2=(x−1)(x−2)Q(x)+16(x−1)
x=2를 대입하면 (B(x))2=16
(다)에서 B(2)>0이므로 B(2)=4, n=2
(B(x))2=(x−1)2(x+2)2=(x−1)(x−2)Q(x)+16(x−1)
(x−1)(x+2)2=(x−2)Q(x)+16에서
l=5, m=10이므로 Q(x)=x2+5x+10
(ⅰ), (ⅱ)에 의하여
A(x)=(x−1)(x2+5x+10)이고 A(3)=68
[다른 풀이]
(나)에 의하여
(B(x))2=(x−1)(x−2)Q(x)+16(x−1)
=(x−1){(x−2)Q(x)+16} ⋯⋯ ㉠
(B(1))2=0이므로 B(1)=0
(B(x))2이 (x−1)2을 인수로 갖는다.
(x−2)Q(x)+16은 x−1을 인수로 가지므로
Q(1)=16
㉠에 x=2를 대입하면 (B(x))2=16
(다)에 의하여 B(2)=4
B(x)=(x−1)(x+2)이고 B(3)=10
(가)에서 A(x)B(x)는 (x−1)2으로 나누어떨어지므로
A(x)는 x−1을 인수로 갖는다.
㉠에서 (B(x))2은 사차다항식이므로 Q(x)는 이차다항식이다.
Q(1)=0 이고 A(x)는 Q(x)로 나누어떨어지므로
A(x)=(x−1)Q(x)
㉠에 x=3을 대입하면
(B(3))2=(3−1){(3−2)Q(3)+16}
100=2Q(3)+32이고 Q(3)=34
따라서 A(3)=(3−1)Q(3)=68