f(k)=(3k의 일의 자리의 수)이므로
f(1)=f(5)=f(9)=3, f(2)=f(6)=9,
f(3)=f(7)=7, f(4)=f(8)=1
X의 두 부분집합
P={1,3,5,7,9}, Q={2,4,6,8}에 대하여
x∈P이면 (f∘f)(x)=7이고, x∈Q이면 (f∘f)(x)=3
이므로 A⊂P이다.
임의의 a∈A에 대하여 f(a)∈A이므로 f(a)∈A에 대하여 f(f(a))∈A이다. 즉, 7∈A이다.
한편, 9∈A이면 7<9이고 f(7)>f(9)이므로 조건
(다)를 만족시키지 않는다. 그러므로 9∋nA이다.
3∋nA이면 n(A)≥2이므로 1∈A 또는 5∈A이고, 조건
(나)에서 f(1)=f(5)=3∈A가 되어 모순이다. 그러므로 3∈A이다.
즉, {3,7}⊂A⊂{1,3,5,7}이다.
그런데 5∈A이면 3<5이고 f(3)>f(5)이므로 조건
(다)를 만족시키지 않는다. 그러므로 5∋nA이다.
즉, {3,7}⊂A⊂{1,3,7}이다.
따라서 가능한 모든 집합 A는
A={3,7} 또는 A={1,3,7}이므로 집합 A의 모든 원소의 합의 최댓값은 1+3+7=11