다항함수 f, g에 대하여
f(x−g(y))=(x+4y2−1)3−3 ⋯⋯ ㉠
이 모든 실수 x, y에 대하여 성립한다.
㉠의 양변에 y=0을 대입하면
f(x−g(0))=(x−1)3−3 ⋯⋯ ㉡
f(0)=5이므로 ㉡의 양변에 x=3을 대입하면
f(3−g(0))=23−3=5 ∴ g(0)=3
따라서 ㉡에서
f(x−3)=(x−1)3−3
∴ f(x)=(x+2)3−3 ⋯⋯ ㉢
㉠에서 x−g(y)=t라 하면
f(t)=(t+g(y)+4y2−1)3−3
이 식과 ㉢을 비교하면 g(y)+4y2−3=0
∴ g(x)=−4x2+3 ⋯⋯ ㉣
㉢과 ㉣에서
h(x)=f(x)−g(x)=(x+2)3−3+4x2−3
=x3+10x2+12x+2
h′(x)=3x2+20x+12=(3x+2)(x+6)
h′(x)=0에서 x=−32 또는 x=−6
함수 h(x)의 증가와 감소를 표로 나타내면 다음과 같다.
| x | ⋯ | −6 | ⋯ | −32 | ⋯ |
| h′(x) | + | 0 | − | 0 | + |
| h(x) | ↗ | 74 | ↘ | −2750 | ↗ |
따라서 함수 h(x)의 극댓값은 h(−6)=74이다.