자명하지 않은 해와 최대·최소

[출제의도] 행렬과 연립방정식의 해를 이용하여 최대, 최소를 구하는 문제이다. $\displaystyle \begin{pmatrix} a & b \\ - b & a \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 3 & 5 \\ - 3 & 3 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix}$, $\displaystyle \begin{pmatrix} a - 3 & b - 5 \\ - b + 3 & a - 3 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix}$ 연립방정식이 $x = 0$, $y = 0$이외의 해를 가지려면 $\displaystyle \begin{pmatrix} a - 3 & b - 5 \\ - b + 3 & a - 3 \end{pmatrix}$의 역행렬이 존재하지 않아야 한다. 즉 $( a - 3 ) ^{2} + ( b - 5 ) ( b - 3 ) = 0$이므로 $( a - 3 ) ^{2} + ( b - 4 ) ^{2} = 1$ 점 $\mathrm{P} ( {\mathit{a} , b} )$를 중심의 좌표가 $( 3 , 4 )$이고 반지름의 길이가 $1$인 원 위의 점이라 하자. 이때, $\displaystyle a ^{2} + b ^{2} = {\overline{\mathrm{OP}}} ^{2}$이고 원점과 점 $( 3 , 4 )$사이의 거리는 $\displaystyle \sqrt{3 ^{2} + 4 ^{2}} = 5$이므로 $\displaystyle 5 - 1 \leq \overline{\mathrm{OP}} \leq 5 + 1$ $\displaystyle 4 ^{2} \leq \overline{\mathrm{OP}} ^{2} \leq 6 ^{2}$ ∴ $M + m = 36 + 16 = 52$