함수 g(x)가 실수 전체의 집합에서 미분가능하므로 함수 g(x)가 x=3에서 연속이고 미분가능하다.
함수 g(x)가 x=3에서 연속이므로
x→3−limg(x)=x→3+limg(x)=g(3)
b−f(3)=f(3)
b=6a−34
함수 g(x)가 x=3에서 미분가능하므로
x→3−limx−3g(x)−g(3)=x→3+limx−3g(x)−g(3)
x→3−limx−3g(x)−g(3)=x→3−limx−3b−f(x)−f(3)
=x→3−limx−3−f(x)+{b−f(3)}
=x→3−limx−3−{f(x)−f(3)}
=−f′(3)
=a−9
x→3+limx−3g(x)−g(3)=x→3+limx−3f(x)−f(3)
=f′(3)=−a+9
따라서 a=9,b=20
g(x)={−x3+6x2−9x+10x3−6x2+9x+10(x<3)(x≥3)
x<3에서
g′(x)=−3x2+12x−9=−3(x−1)(x−3)
g′(x)=0에서 x=1
x≥3에서
g′(x)=3x2−12x+9=3(x−1)(x−3)
g′(x)=0에서 x=3
함수 g(x)의 증가와 감소를 표로 나타내면
| x | ⋯ | 1 | ⋯ | 3 | ⋯ |
| g′(x) | − | 0 | + | 0 | + |
| g(x) | ↘ | 극소 | ↗ | | ↗ |
g(1)=−1+6−9+10=6이므로 함수 g(x)는 x=1에서 극솟값 6을 갖는다.