함수 g(x)가 실수 전체의 집합에서 연속이므로 x=t에서도 연속이다. 즉,
x→t−limg(x)=x→t+limg(x)=g(t)
이어야 하고, g(x)={−f(x)f(x)(x<t)(x≥t)이므로
x→t−limg(x)=−f(t)
x→t+limg(x)=f(t)
g(t)=f(t)
에서 −f(t)=f(t) ∴ f(t)=0 ⋯⋯ ㉠
한편 조건 (가)에서 모든 실수 a에 대하여 x→a+limx(x−2)g(x)의 값이 존재하므로 분모가 0이 되는 x의 값에 대하여도 극한값이 존재하여야 한다.
방정식 x(x−2)=0에서 x=0 또는 x=2
즉, a=0, a=2일 때 x→a+limx(x−2)g(x)에서 (분모)→0이고 극한값이 존재하므로 (분자)→0이어야 한다.
∴ g(0)=0, g(2)=0 ⋯⋯ ㉡
이때 g(c)=0 (c는 상수)이면
f(c)=0, −f(c)=0
즉, g(c)=0이면 f(c)=0이므로 ㉡에 의하여
f(0)=0 또는 f(2)=0
함수 f(x)는 최고차항의 계수가 양수인 삼차함수이므로
f(x)=kx(x−2)(x−α) (k>0이고, α는 상수)
라 놓을 수 있고, ㉠에 의하여
t=0 또는 t=2 또는 t=α
(ⅰ) t=0일 때
g(x)={−kx(x−2)(x−α)kx(x−2)(x−α)(x<0)(x≥0)
m은 자연수이므로 조건 (나)에서
x→m+limx(x−2)g(x)=x→m+limx(x−2)kx(x−2)(x−α)
=k(m−α)
(a) m=2이면
x→2+limx(x−2)g(x)=k(2−α)
이 값이 음수이려면 α>2
(b) m=2이면
x→m+limx(x−2)g(x)=k(m−α)
이 값이 음수이려면 α>m
자연수 m의 집합의 원소의 개수는 2이므로 (a), (b)에 의하여 집합은 {1,2}이고, 2<α≤3이다.
g(−1)=1, −27g(1)=2이면
3k(1+α)=1, −27k(α−1)=2
에서 α=−195이므로 조건을 만족하지 않는다.
또한, g(−1)=2, −27g(1)=1이면
3k(1+α)=2, −27k(α−1)=1
에서 α=52이므로 조건을 만족하지 않는다.
(ⅱ) t=2일 때
g(x)={−kx(x−2)(x−α)kx(x−2)(x−α)(x<2)(x≥2)
(a) m=1일 때
x→m+limx(x−2)g(x)=x→1+limx(x−2)−kx(x−2)(x−α)=k(α−1)
(b) m=2일 때
x→m+limx(x−2)g(x)=x→2+limx(x−2)kx(x−2)(x−α)=k(2−α)
(c) m≥3일 때
x→m+limx(x−2)g(x)=x→m+limx(x−2)kx(x−2)(x−α)=k(m−α)
(a), (b), (c)에서 이 값이 음수이려면
α−1<0, 2−α<0, m−α<0
즉, α<1, α>2, α>m이다.
이때 α<1, α>2는 동시에 성립하지 않고, α<1이면 자연수 m의 집합의 원소의 개수는 1이므로 성립하지 않는다.
따라서 α>2이고, 자연수 m의 집합의 원소의 개수가 2이려면 m≥3에서 m−α<0이어야 한다.
즉, 자연수 m의 집합은 {2,3}이고, 3<α≤4이다.
g(−1)=2, −27g(1)=3이면
3k(1+α)=2, 27k(α−1)=3
에서 α=−8이므로 조건을 만족하지 않는다.
또한, g(−1)=3, −27g(1)=2이면
3k(1+α)=3, 27k(α−1)=2
에서 α=311, k=143
∴ f(x)=143x(x−2)(x−311)
(ⅲ) t=α일 때
g(x)={−kx(x−2)(x−α)kx(x−2)(x−α)(x<α)(x≥α)=kx(x−2)∣x−α∣
x→m+limx(x−2)g(x)=x→m+limx(x−2)kx(x−2)∣x−α∣=k∣m−α∣
이 값은 항상 0이상이므로 조건 (나)를 만족하지 않는다.
이상에서 f(x)=143x(x−2)(x−311)이고,
g(x)={−f(x)f(x)(x<2)(x≥2)
따라서 구하는 값은
g(−5)=−f(−5)
=−143×(−5)×(−7)×(−326)
=65