행렬과 복소수 조건

$\displaystyle \begin{pmatrix} x + y & - x \\ y & x + y \end{pmatrix}$의 역행렬이 존재하지 않으므로 $( x + y ) ^{2} + x y = 0$ $\cdots \cdots \text{㉠}$ 복소수 $z = ( x + y - 3 ) + x y i$에서 $z ^{2} = ( x + y - 3 ) ^{2} - ( x y ) ^{2} + 2 x y ( x + y - 3 ) i$ $z ^{2}$이 음의 실수이므로 $( x + y - 3 ) ^{2} - ( x y ) ^{2} < 0$ $\cdots \cdots \text{㉡}$ $2 x y ( x + y - 3 ) = 0$ $\cdots \cdots \text{㉢}$ ㉠,㉡,㉢에서 $x + y = a , x y = b$로 치환하면 $a ^{2} + b = 0$, $( a - 3 ) ^{2} - b ^{2} < 0$, $2 ( a - 3 ) b = 0$ $\therefore$ $\displaystyle \begin{cases} a = 3 \\ b = - 9 \end{cases}$, $\displaystyle \begin{cases} a = 0 \\ b = 0 \end{cases}$ 이 때, $( a - 3 ) ^{2} - b ^{2} < 0$을 만족하여야 하므로 $\displaystyle \begin{cases} a = 3 \\ b = - 9 \end{cases}$ $\therefore$ $x y = b = - 9$