검은색 공 4개를 일렬로 나열하면 공의 양 끝과 사이사이에 총 5개의 자리가 생긴다.
노란색 공과 보라색 공이 이웃하지 않으려면 이 5개의 자리 중 어떤 자리에도 노란색 공과 보라색 공이 함께 들어갈 수 없다. 따라서 5개의 자리 중 노란색 공이 들어갈 자리의 개수를 a(단, a≥1)라 하면 보라색 공은 남은 (5−a)개의 자리에 들어갈 수 있다.
노란색 공 4개를 a개의 자리에 적어도 1개씩 넣는 경우의 수는 방정식 x1+⋯+xa=4를 만족시키는 x1, x2, ⋯, xa의 양의 정수해의 개수와 같으므로
aH4−a=3Ca−1 ⋯⋯ ㉠
보라색 공 4개를 남은 (5−a)개의 자리에 넣는 경우의 수는
5−aH4=8−aC4 ⋯⋯ ㉡
(ⅰ) a=1일 때 노란색 공이 들어갈 자리를 정하는 경우의 수는 5C1이므로 ㉠, ㉡에 의하여 구하는 경우의 수는
5C1×3C0×7C4=5×1×35=175
(ⅱ) a=2일 때 노란색 공이 들어갈 자리를 정하는 경우의 수는 5C2이므로 ㉠, ㉡에 의하여 구하는 경우의 수는
5C2×3C1×6C4=10×3×15=450
(ⅲ) a=3일 때 노란색 공이 들어갈 자리를 정하는 경우의 수는 5C3이므로 ㉠, ㉡에 의하여 구하는 경우의 수는
5C3×3C2×5C4=10×3×5=150
(ⅳ) a=4일 때 노란색 공이 들어갈 자리를 정하는 경우의 수는 5C4이므로 ㉠, ㉡에 의하여 구하는 경우의 수는
5C4×3C3×4C4=5×1×1=5
이상에서 구하는 모든 경우의 수는
175+450+150+5=780
[다른 풀이]
노란색 공, 보라색 공, 검은색 공을 각각 A, B, C라 하자.
4개의 A와 4개의 B를 나열할 때 AB 또는 BA가 나타나는 횟수를 k라 하면 AB 또는 BA의 사이에 C가 들어가야 하므로 1≤k≤4
4개의 A와 4개의 B를 나열했을 때 사이사이와 양 끝의 9곳 중 k 곳에 C를 한 개씩 배치했으므로 남은 4−k개의 C를 배치하는 경우의 수는 9H4−k
4개의 A와 4개의 B의 묶음의 개수를 각각 x, y라 하면
(ⅰ) k=1일 때
AAAABBBB 또는 BBBBAAAA
따라서 구하는 경우의 수는
2×9H3=2×9+3−1C3=2×165=330
(ⅱ) k=2일 때
A−B−A 또는 B−A−B
(a) x=1, y=2일 때
4개의 B를 2개의 묶음으로 나누는 경우의 수는 방정식 a+b=4의 자연수인 해의 개수와 같으므로
2H4−2=2+2−1C2=3
따라서 구하는 경우의 수는
3×9H2=3×9+2−1C2=3×45=135
(b) x=2, y=1일 때
(a)와 같은 방법으로 구하는 경우의 수는
135
(a), (b)에서 구하는 경우의 수는 135+135=270
(ⅲ) k=3일 때
x=2, y=2이므로
A−B−A−B 또는 B−A−B−A
(ⅱ)-(a)에서 4개의 A와 4개의 B를 2개의 묶음으로 나누는 경우의 수는 각각 3이다.
따라서 구하는 경우의 수는
2×3×3×9H1=18×9+1−1C1=18×9=162
(ⅳ) k=4일 때
x=3, y=2 또는 x=2, y=3이므로
A−B−A−B−A 또는 B−A−B−A−B
4개의 A를 3개의 묶음으로 나누는 경우의 수는 방정식 a+b+c=4의 자연수인 해의 개수와 같으므로
3H4−3=3+1−1C1=3
따라서 구하는 경우의 수는
2×3×3×9H0=18×9+0−1C0=18×1=18
이상에서 구하는 모든 경우의 수는
330+270+162+18=780