[출제의도] 행렬의 곱셈을 이용하여 명제의 참, 거짓을 추론한다.
A2=(ab−ba)(ab−ba)=(a2−b22ab−2aba2−b2)
ㄱ. A2=O에서 (a2−b22ab−2aba2−b2)=(0000)
a2−b2=0, 2ab=0에서 a=b=0
∴ A=O (참)
ㄴ. A2+E=O에서 A2=−E 즉,
(a2−b22ab−2aba2−b2)=(−100−1)
a2−b2=−1, 2ab=0에서
a=0, b=−1 또는 a=0, b=1
따라서 조건을 만족시키는 행렬 A는
A=(0−110) 또는 A=(01−10)으로 2개이다. (참)
ㄷ. A2−A=O에서 A2=A
(a2−b22ab−2aba2−b2)=(ab−ba)
a2−b2=a, 2ab=b
b=0이면 a2=a에서 a=0 또는 a=1
b=0이면 a=21이므로 41−b2=21에서 b2=−41을 만족시키는 실수 b는 존재하지 않는다.
그러므로 조건을 만족시키는 행렬 A는
A=(0000) 또는 A=(1001)로 2개이다. (참)