ㄱ. B=O이면 A=O이다. (참)
B=(1101)(aab0)(1−101)=(a−b2a−bbb)=(0000)이면 a=0,b=0이므로 A=O이다.
ㄴ. A3=E이면 B100=B이다. (참)
B=PAP−1에서
B100=PA100P−1=P(A3)33AP−1=PAP−1=B
ㄷ. AB=E를 만족하는 행렬A가 존재한다. (거짓)
AB=A(PAP−1)=(aab0)(a−b2a−bbb)=(a2+ab−b2a2−abab+b2ab)=(1001)
a2+ab−b2=1,b(a+b)=0,a(a−b)=0,ab=1이다.
그러므로ab=1에서 a=0,b=0이므로
b(a+b)=0,a(a−b)=0에서 a+b=0,a−b=0이 되려면 a=0,b=0이므로 모순이다.
그러므로 AB=E를 만족하는 행렬A가 존재하지 않는다.