남학생인 사건을 A, 수학동아리에 가입한 사건을 B라 하자
P(B∣A)=53 에서
P(A)P(A∩B)=53
∴P(A∩B)=53P(A)
P(B∣AC)=21 에서
P(AC)P(AC∩B)=21
∴P(AC∩B)=21P(AC)=21{1−P(A)}
이때,
p1=P(A∣B)=P(B)P(A∩B)
p2=P(AC∣B)=P(B)P(AC∩B)
이고 p1=2p2 이므로
P(B)P(A∩B)=P(B)2P(AC∩B)
53P(A)=1−P(A)
∴P(A)=85
따라서, 구하는 남학생의 수는
320×85=200(명)