A=(−baab)∈V, B=(−yxxy)∈V로 놓으면
ㄱ. A+B=(−b−ya+xa+xb+y)=(−(b+y)a+xa+xb+y)∈V ∴ 참
ㄴ. AB=(−baab)(−yxxy)=(−bx−ayax−by−by+axay+bx)
=(−(ay+bx)ax−byax−byay+bx)
BA=(−yxxy)(−baab)=(−(ay+bx)ax−by−by+axbx+ay)
∴ AB=BA ∴ 참
ㄷ. ‘AB=O이면 A=O 또는 B=O’의 대우명제 ‘A=O이고 B=O이면 AB=O’임을 보이면 된다.
A=(−baab)=O라 하면 a2+b2=0 (∵ a, b는 실수)이므로 행렬 A는 역행렬 A−1가 존재한다.
AB=O이라고 가정하면
A−1AB=A−1O,B=O
따라서, 조건 B=O에 모순이므로 AB=O이다.
∴ 참 따라서, ㄱ, ㄴ, ㄷ 모두 옳다.