(x2+y)4의 전개식의 일반항은
4Cr(x2)4−ryr (r은 0≤r≤4인 정수)
(x2+y21)5의 전개식의 일반항은
5Ct(x2)5−t(y21)t (t는 0≤t≤5인 정수)
즉 (x2+y)4(x2+y21)5의 전개식의 일반항은
4Cr×5Ct×(x2)4−ryr×(x2)5−t(y21)t
=4Cr×5Ct×25−t×x(8−2r)−(5−t)×yr−2t
=4Cr×5Ct×25−t×x3−2r+t×yr−2t
즉 y5x4항은 3−2r+t=4, r−2t=−5일 때이므로 이를 연립하여 풀면
r=1, t=3
따라서 y5x4의 계수는
4C1×5C3×22=160