삼차방정식을 이해하여 미지수의 값을 구한다.
x에 대한 방정식 x3+ax2+bx−3a=0이 a를 한 근으로 가지므로
a3+a3+ab−3a=a(2a2+b−3)=0에서
a=0 또는 2a2+b−3=0
(ⅰ) a=0인 경우
x3+ax2+bx−3a=x3+bx=x(x2+b)에서 방정식 x3+ax2+bx−3a=0이 서로 다른 세 정수를 근으로 가지므로 b<0
그런데 x3+bx2−2ax−2ab=x3+bx2=x2(x+b)에서 b=0이므로 방정식 x3+bx2−2ax−2ab=0은 서로 다른 두 정수 −b, 0을 근으로 가진다.
그러므로 조건을 만족시키지 않는다.
(ⅱ) 2a2+b−3=0인 경우
b=−2a2+3 ⋯⋯ ㉠
x3+ax2+(−2a2+3)x−3a=(x−a)(x2+2ax+3)=0에서 방정식 (x−a)(x2+2ax+3)=0이 a를 포함한 서로 다른 세 정수를 근으로 가지므로 방정식 x2+2ax+3=0이 a가 아닌 서로 다른 두 정수를 근으로 가져야 하고, 그 곱은 3이다.
따라서 x2+2ax+3=(x−1)(x−3)
또는 x2+2ax+3=(x+1)(x+3)이다.
① x2+2ax+3=(x−1)(x−3)일 때
a=−2이고, 이를 ㉠에 대입하면 b=−5
x3+bx2−2ax−2ab=(x+b)(x2−2a)
=(x−5)(x2+4)
에서 x3+bx2−2ax−2ab=0은 정수인 근을 오직 하나만 가지므로 조건을 만족시킨다.
② x2+2ax+3=(x+1)(x+3)일 때
a=2이고, 이를 ㉠에 대입하면 b=−5
x3+bx2−2ax−2ab=(x+b)(x2−2a)
=(x−5)(x+2)(x−2)
에서 x3+bx2−2ax−2ab=0은 서로 다른 세 정수를 근으로 가지므로 조건을 만족시키지 않는다.
(ⅰ), (ⅱ)에서 a=−2, b=−5이므로 a−b=3