합성 삼차함수 방정식

$( f \circ f ) ( x ) = x$을 만족하기 위해서는 ⅰ) 모든 $x$에 대하여 $f ( x ) = x$이거나 ⅱ) $f ( p ) = q , f ( q ) = p$가 되어야 한다. ⅰ)의 경우 $f ( 1 ) = 1 , f ( 2 ) = 2$가 되면 $f ( x )$는 증가함수가 되어 $f' ( 1 ) < 0$, $f' ( 2 ) < 0$인 조건에 만족하지 않는다. ⅱ)의 경우 $f ( 1 ) = 2 , f ( 2 ) = 1 , f ( 0 ) = 0$와 $f' ( 0 ) - f' ( 1 ) = 6$을 만족해야 한다. $f ( x ) = ax ^{3} + bx ^{2} + cx + d$라 하면 $f' ( x ) = 3 ax ^{2} + 2 bx ^{2} + c$이고 $f ( 1 ) = a + b + c + d = 2$ $\cdots$① $f ( 2 ) = 8 a + 4 b + 2 c + d = 1$ $\cdots$ ② $f ( 0 ) = d = 0$ $\cdots$ ③ $f' ( 0 ) - f' ( 1 ) = c - 3 a - 2 b - c = 6$ $\cdots$ ④ ①, ②, ③, ④를 연립하면 $\displaystyle a = 1 , b = \mathit{-} \frac{9}{2} , c = \frac{11}{2}$이므로 $\displaystyle f ( x ) = x ^{3} - \frac{9}{2} x ^{2} + \frac{11}{2} x$을 얻는다. 따라서 $f ( 5 ) = 40$이다.