ㄱ. (참) A2−AB=3E에서
A(A−B)=3E,A{31(A−B)}=E
∴A−1=31(A−B)
따라서, 행렬 A의 역행렬이 존재한다.
ㄴ. (참) 행렬 A의 역행렬이 31(A−B)이므로
A{31(A−B)}={31(A−B)}A
31(A2−AB)=31(A2−BA)
∴AB=BA
ㄷ. (참) A2B−B2A=A+B 에서
AB=BA(∵ㄴ) 이므로
B(A2−AB)=A+B
이때, A2−AB=3E이므로
3B=A+B
∴A=2B⋯(ㄱ)
A=2B를 A2−AB=3E에 대입하면
4B2−2B2=3E,2B2=3E
∴B2=23E
∴(A+2B)2=(4B)2(∵ㄱ)
=16B2=16(23E)=24E