F′(x)=f(x)이므로 4F(x)=xf(x)+4x2의 양변을 x에 대하여 미분하면
4f(x)=f(x)+xf′(x)+8x, 즉 3f(x)=xf′(x)+8x …… ㉠
f(x)가 상수함수이면 ㉠의 우변이 8x가 되어 모순이다.
f(x)가 일차함수이면 ㉠에서 f(x)=4x가 되어 f(1)=4=6이므로 모순이다.
f(x)의 차수를 n (n≥2), 최고차항의 계수를 a라 하면 ㉠의 양변의 최고차항은 3axn, naxn이므로 n=3
f(x)=ax3+bx2+cx+d를 ㉠에 대입하면
3ax3+3bx2+3cx+3d=3ax3+2bx2+(c+8)x
b=0, c=4, d=0
f(1)=a+4=6에서 a=2이므로 f(x)=2x3+4x
F(x)=4xf(x)+4x2=42x4+8x2=21x4+2x2
따라서 F(2)=8+8=16