P(x)=x2+ax+b(a,b는 상수)라 하자.
{P(x)}2=(x+1)(x−5)Q(x)+36이므로
P(−1)=±6 또는 P(5)=±6이다.
P(0)=P(4)이므로 이차함수 y=P(x)의 그래프에서 꼭짓점의 x좌표가 2가 될 수 없다.
그러므로 P(−1)=P(5)이다.
(ⅰ) P(−1)=6, P(5)=−6인 경우
P(−1)=1−a+b=6, a−b=−5 ⋯⋯ ㉠
P(5)=25+5a+b=−6, 5a+b=−31 ⋯⋯ ㉡
㉠, ㉡에서 a=−6, b=−1이므로
P(x)=x2−6x−1
(x2−6x−1)2−62=(x2−6x+5)(x2−6x−7)
=(x−5)(x−1)(x−7)(x+1)
Q(x)=(x−1)(x−7)=x2−8x+7이다.
그러므로 Q(−1)=16
(ⅱ) P(−1)=−6, P(5)=6인 경우
P(−1)=1−a+b=−6, a−b=7 ⋯⋯ ㉢
P(5)=25+5a+b=6, 5a+b=−19 ⋯⋯ ㉣
㉢, ㉣에서 a=−2, b=−9이므로
P(x)=x2−2x−9
(x2−2x−9)2−62=(x2−2x−3)(x2−2x−15)
=(x+1)(x−3)(x+3)(x−5)
Q(x)=(x−3)(x+3)=x2−9
그러므로 Q(−1)=−8
(ⅰ), (ⅱ)에 의하여 모든 Q(−1)의 값의 합은
16+(−8)=8