[출제의도] 주어진 조건을 활용하여 행렬과 관련된 명제의 참, 거짓을 추론한다.
ㄱ. A2+AB=2E에서 21A(A+B)=E이므로 A의 역행렬은 존재하고 A−1=21(A+B) (참)
ㄴ. ㄱ에서 A의 역행렬은 존재하고 역행렬의 정의에 의해
21A(A+B)=21(A+B)A=E
A(A+B)=(A+B)A
A2+AB=A2+BA
AB=BA
A의 역행렬이 존재하므로 BA=O
즉, BA=−BA
그러므로 AB=−BA (거짓)
ㄷ. A2−2A=B2+2B, A2−B2=2(A+B)
AB=BA이므로 A2−B2=(A+B)(A−B)
ㄱ의 풀이에서 21A(A+B)=E이므로
(A+B)−1=21A
(A+B)(A−B)=2(A+B)의 양변에
(A+B)의 역행렬 21A를 곱하면
A−B=2E, A=B+2E
A2+AB=2E에 A=B+2E를 대입하면
2E=(B+2E)2+(B+2E)B
=2B2+6B+4E
그러므로 B2=−3B−E
=−3(A−2E)−E
=−3A+5E (참)
따라서 옳은 것은 ㄱ, ㄷ이다.
[다른 풀이]
ㄷ은 다음과 같이 확인할 수도 있다.
A2=2E−AB=B2+2B+2A
B2+2B+2A+AB=2E
(A+B)(B+2E)=2E
21(B+2E)=(A+B)−1
ㄱ의 풀이에서 21A(A+B)=E이므로
(A+B)−1=21A
즉, A=B+2E
A2+AB=2E에 B=A−2E를 대입하면
A2+A(A−2E)=2E
2A2−2A=2E
A2=A+E
그러므로 B2=(A−2E)2
=A2−4A+4E
=(A+E)−4A+4E
=−3A+5E