구하고자 하는 함수의 개수를 치역에 따라 분류하면
(ⅰ) 치역이 {1}인 경우 조건을 성립하며 경우의 수는 1가지이다.
(ⅱ) 치역이 {1,2}인 경우
(가)조건에 의해 f(1)=1이고
(1) f(2)=1일 때
x=2인 경우
f(f(f(2)))=f(f(1))=f(1)=1 이고
x≥3인 경우도
f(f(f(x)))는 f(f(1))=1 또는 f(f(2))=1 이므로 주어진 조건을 만족한다.
3이상의 정의역이 1,2에 대응하는 개수를 각각 x1,x2라 하면
x1+x2=6 (x1≥0, x2≥1인 정수)
이므로 2H6−1=6C5=6가지이다.
(2) f(2)=2일 때
f(f(f(2)))=2이므로 모순
(ⅲ) 치역이 {1,3}인 경우
(1) f(2)=1, f(3)=1인 경우
f(f(f(x)))는 f(f(1))=1 또는 f(f(3))=1이므로 성립
4이상의 정의역이 1,3에 대응하는 개수를 각각 x1,x2라 하면
x1+x2=5 (x1≥0, x2≥1인 정수)
이므로 2H5−1=5C4=5가지이다.
(2) f(2)=1, f(3)=3인 경우
f(f(f(3)))=3이므로 모순
(3) f(2)=3인 경우
(가)에 의해 f(3)GEf(2)=3 즉, f(3)=3이므로 f(f(f(2)))=3이므로 모순
(ⅳ) 치역이 {1,2,3}인 경우
3이상의 정의역이 1,2,3에 각각 대응하는 개수를 x1,x2,x3라 하면
x1+x2+x3=6 (x1≥0, x2≥1, x3≥1인 정수)
이므로 3H6−2=6C4=15가지이다.
따라서 (ⅰ), (ⅱ), (ⅲ), (ⅳ)에서 조건을 만족시키는 모든 함수 f:X→Y의 개수는 1+6+5+15=27가지