복소수 z를 z=a+bi(a,b는 실수)라 하자.
조건 (가)에서 z=−z이므로
a−bi=−a−bi에서 a=0
즉 z=bi이다.
조건 (나)에 z=bi를 대입하면
−b2+(k2−3k−4)bi+(k2+2k−8)=0
k2+2k−8−b2+(k2−3k−4)bi=0
이고,
k2+2k−8−b2=0 ⋯⋯ ㉠
(k2−3k−4)b=0 ⋯⋯ ㉡
이다.
㉡에서 b=0 또는 k2−3k−4=0
(ⅰ) b=0일 때
㉠에서 k2+2k−8=0이므로 k=−4 또는 k=2이다.
(ⅱ) k2−3k−4=0, 즉 k=−1 또는 k=4일 때
k=−1이면 ㉠에서 −9−b2=0이므로 이를 만족시키는 실수 b는 존재하지 않는다.
k=4이면 ㉠에서 16−b2=0이므로 이를 만족시키는 실수 b는 −4, 4이다.
(ⅰ), (ⅱ)에서 조건을 만족시키는 실수 k는 −4, 2, 4이고 모든 실수 k의 값의 곱은 −32이다.
[다른 풀이]
f(x)=x2+(k2−3k−4)x+(k2+2k−8)이라 하자.
조건 (나)에서 복소수 z는 x에 대한 이차방정식 f(x)=0의 한 근이다.
(ⅰ) z가 실수일 때 조건 (가)에서 z=−z이고
z가 실수이므로 z=z이다.
따라서 z=0
즉, 이차방정식 f(x)=0의 한 근이 x=0이므로 f(0)=0
k2+2k−8=0
(k+4)(k−2)=0
k=−4 또는 k=2
(ⅱ) z가 허수일 때
x에 대한 이차방정식
x2+(k2−3k−4)x+(k2+2k−8)=0
에서 계수와 상수항이 모두 실수이므로 z의 켤레복소수 z 역시 이차방정식의 한 근이다.
이차방정식의 근과 계수의 관계에 의하여
z+z=−(k2−3k−4)
조건 (가)에서 z=−z이므로
z+z=0
즉, k2−3k−4=0
(k−4)(k+1)=0
k=4 또는 k=−1
k=4이면 f(x)=x2+16이고, 이차방정식
f(x)=0의 해는 x=4i 또는 x=−4i이다.
k=−1이면 f(x)=x2−9이고, 이차방정식
f(x)=0의 해는 x=3 또는 x=−3이므로 z가 허수라는 조건에 모순이다.
(ⅰ), (ⅱ)에서 조건을 만족시키는 실수 k는 −4, 2, 4이고, 모든 실수 k의 값의 곱은 −32이다.