합성과 적분이 섞인 함수방정식

다항식 $f \left( x \right)$의 차수를 $n$이라 하자. 이 때, $\displaystyle f \left( f \left( x \right) \right) , \int _{0} ^{x} f \left( t \right) dt$의 차수는 각각 $n ^{2} , n + 1$이므로 만약 $n \geq 2$이라면 주어진 조건식의 좌변과 우변의 차수도 각각 $n ^{2} , n + 1$이어야 한다. 그런데, $n ^{2} = n + 1$을 만족시키는 자연수 $n$의 값은 없으므로 $n < 2$임을 알 수 있다. 따라서, $f \left( x \right) = a x + b$로 놓으면 $\displaystyle f \left( f \right( x ) ) = \int _{0} ^{x} f \left( t \right) dt - x ^{2} + 3 x + 3$ $\displaystyle \begin{aligned} a \left( a x + b \right) + b & = \int _{0} ^{x} \left( a t + b \right) dt - x ^{2} + 3 x + 3 \end{aligned}$ $\displaystyle = \frac{a}{2} x ^{2} + b x - x ^{2} + 3 x + 3$ $\displaystyle a ^{2} x + \left( a b + b \right) = \left( \frac{a}{2} - 1 \right) x ^{2} + \left( b + 3 \right) x + 3$ 양변의 동류항의 계수를 비교하면 $\displaystyle \frac{a}{2} - 1 = 0 , a ^{2} = b + 3 , ab + b = 3$ $\therefore a = 2 , b = 1$ 따라서, 구하는 $f \left( x \right)$의 계수들의 합은 $a + b = 2 + 1 = 3$