두 근을 α,β라 하면 근과 계수의 관계에서
α+β=k+3,αβ=k−3
k를 소거하면 αβ−(α+β)=−6
(α−1)(β−1)=−5
α,β가 정수이므로 α−1,β−1은 곱이 −5인 두 정수이다.
(α,β)=(2,−4),(−4,2),(0,6),(6,0)
이 중 두 근의 부호가 서로 다른 것은 (2,−4),(−4,2)뿐이다. (0은 양수도 음수도 아니다.)
k=α+β−3=−2−3=−5
실제로 k=−5이면 x2+2x−8=(x+4)(x−2)=0이므로 두 근은 −4,2이다.
따라서 k=−5이다.
①