ㄱ. (거짓) [반례] A=(−1001), B=(0−100)이면
(A+B)2=(−1−101)2=(1001)
(A−B)2=(−1101)2=(1001)이지만
AB=(−1001)(0−100)=(0−100)=O
ㄴ. (참) (ABA)2=(ABA)(ABA)=ABA2BA
=ABEBA (∵ A2=E)=AB2A
=ABA (∵ B2=B)
ㄷ. (참) A(A+E)=E에서 A−1=A+E⋯⋯㉠
또한, AB=−E에서 A(−B)=E
∴A−1=−B⋯⋯㉡
㉠과 ㉡이 같으므로 −B=A+E
위의 식의 양변을 제곱하면
B2=(A+E)2=A2+2A+E
=A(A+E)+A+E
=E+A+E (∵ A(A+E)=E)
=A+2E
따라서, 옳은 것은 ㄴ, ㄷ이다.