f(f(1))=f(f(2))=f(f(3))=k라 하면 함수 f(x)는 이차함수이므로 f(x)=k인 x값은 최대 2개다. 따라서 f(1),f(2),f(3)중 2개는 같은 값이어야 한다.
1) f(1)=f(3)인 경우
a+c−8=9a+c−24, a=2
2) f(1)=f(2)인 경우
a+c−8=4a+c−16, a=38
3) f(2)=f(3)인 경우
4a+c−16=9a+c−24, a=58
a가 정수이므로 f(1)=f(3)이고 대칭축은 x=2이다.
또한, f(f(1))=f(f(2))이므로 f(1)과 f(2)는 x=2에 대하여 대칭이다. 즉,
2f(1)+f(2)=2, ∴c=9
따라서,
a+2c=20