A²=B, B²=-A

[출제의도] 행렬의 곱셈과 역행렬의 성질을 이해할 수 있는가를 묻는 문제이다. $AB = AA ^{2} = A ^{3}$, $BA = A ^{2} A = A ^{3}$에서 $AB = BA$ $A ^{2} B ^{2} = AABB = ABAB = ( AB ) ^{2}$ 같은 방법으로 $A ^{3} B ^{3} = ( AB ) ^{3}$, $A ^{4} B ^{4} = ( AB ) ^{4}$, $A ^{5} B ^{5} = ( AB ) ^{5}$ 한편, $A ^{2} B ^{2} = B ( - A )$에서 $( AB ) ^{2} = - AB$ 이때, $A , B$의 역행렬이 모두 존재하므로 $( AB ) ^{-1}$을 양변에 곱하면 $AB = - E$ ∴ $AB + A ^{2} B ^{2} + A ^{3} B ^{3} + A ^{4} B ^{4} + A ^{5} B ^{5}$ $= AB + ( A B ) ^{2} + ( A B ) ^{3} + ( A B ) ^{4} + ( A B ) ^{5}$ $= - E + E - E + E - E$ $= - E$ [다른 풀이] (나)에서 $A ^{4} = B ^{2} = - A$이므로 $A ^{4} + A = O$ ∴ $A ( A ^{3} + E ) = O$ (가)에서 $A$의 역행렬이 존재하므로 양변에 $A ^{-1}$을 곱하면 $A ^{3} + E = O$ 즉, $A ^{3} = - E$이다. ∴ $A ^{-1} = - A ^{2} = - B$ ∴ $AB = - E$