조건(나)에서 0<x<y<1인 모든 x,y에 대하여
0<xf(y)<yf(x)
이므로 0<yf(y)<xf(x)이고
f(0)=0을 동시에 만족하는 다항함수 f(x)의 그래프의 개형은 다음과 같다.
y=f′(0)x
y=f(x)
f(1)
f(y)
f(x)
주어진 그림에서 삼각형 OAB의 넓이는 21f(1)이므로
y=k21f(1)<∫01f(x)dx
∴ f(1)<2∫01f(x)dx 즉, B<C
한편, 원점 O을 지나는 접선의 방정식은 y=f′(0)x
직선 y=f′(0)x와 직선 x=1 및 x축으로 둘러싸인 도형의 넓이는 21f′(0)이고 주어진 그림에서 21f′(0)>∫01f(x)dx
∴ f′(0)>2∫01f(x)dx 즉, A>C
∴ B<C<A