ㄱ. (A+B)(A−1+B−1)=4E에서
(A+B)41(A−1+B−1)=E 이므로
(A+B)−1=41(A−1+B−1)
즉, A+B의 역행렬이 존재한다. <참>
ㄴ. A=E이면 A−1=E이므로 주어진 식에서
(E+B)(E+B−1)=4E
E+B+B−1+E=4E
B+B−1=2E
양변에 B를 곱하면
B2+E=2B
(B−E)2=O
이때, B=(1011)으로 놓으면
(B−E)2=O이지만 B=E이다. <거짓>
ㄷ. AB=21E에서 2AB=2BA=E이므로
A−1=2B, B−1=2A
주어진 식에 대입하면
(A+B)(2A+2B)=4E
(A+B)2=2E
A2+2AB+B2=2E
A2+B2=E <참>