f(x+y)=f(x)+f(y)+2xy−1에서
x=0,y=0을 대입하면
f(0)=f(0)+f(0)−1 ∴ f(0)=1
f′(0)=h→0limhf(h)−f(0)=h→0limhf(h)−1
이므로
f′(x)=h→0limhf(x+h)−f(x)
=h→0limhf(x)+f(h)+2xh−1−f(x)
=2x+h→0limhf(h)−1
=2x+f′(0) ⋯㉠
x→1limx2−1f(x)−f′(x)=14에서
x→1일 때, (분모)→0이므로 (분자)→0이어야 한다.
∴ f(1)=f′(1)
㉠에서 f′(1)=2+f′(0)이므로
f′(0)=f′(1)−2=f(1)−2
∴ x→1limx2−1f(x)−f′(x)
=x→1limx2−1f(x)−2x−f′(0)
=x→1limx2−1f(x)−2x−f(1)+2
=x→1limx2−1f(x)−f(1)−x→1limx2−12(x−1)
=21f′(1)−1
=14
∴ f′(1)=30
∴ f′(0)=f′(1)−2=28
[다른풀이]
f(x+y)=f(x)+f(y)+2xy−1에서
x=0,y=0을 대입하면
f(0)=f(0)+f(0)−1 ∴ f(0)=1
f′(0)=k라 하면
k=h→0limhf(h)−f(0)=h→0limhf(h)−1
f′(x)=h→0limhf(x+h)−f(x)
=h→0limhf(x)+f(h)+2xh−1−f(x)
=2x+h→0limhf(h)−1
=2x+k
∴ f(x)=∫(2x+k)dx=x2+kx+C
(C는 상수)
f(0)=1이므로 C=1
∴ f(x)=x2+kx+1
따라서, f′(x)=2x+k이므로
x→1limx2−1f(x)−f′(x)=x2−1x→1x2+kx+1−2x−klim
=x→1lim(x−1)(x+1)(x−1)2+k(x−1)
=x→1limx+1x−1+k
=2k
=14
∴ k=28