ㄱ. (반례) A=(1001), B=(−100−1), C=(−100−1)라고 하면
A=E, ABC=E, ACB=E 이지만 B=E 이다. (거짓)
ㄴ. ABC=E 에서
C=(AB)−1=B−1A−1
ACB=AB−1A−1B=E
B−1A−1=A−1B−1
(B−1A−1)−1=(A−1B−1)−1
AB=BA (참)
ㄷ. (i) n=1일 때 ABC=E 이므로 성립한다.
(ii) n=k 일 때 AnBnCn=E가 성립한다고 가정하면
n=k+1 일 때
An+1Bn+1Cn+1
=AnABnBCnC=AnBnABCnC (∵ㄴ)
=AnBnCnABC(∵(AB)C=C(AB)=E)
=E
따라서 n=k+1일 때도 성립하므로 모든 자연수 n에 대하여 AnBnCn=E 이다. (참)
따라서 옳은 것은 ㄴ, ㄷ 이다.