[출제의도] 연립이차방정식과 이차함수의 그래프를 이용하여 문제를 해결한다.
f(g(x))=f(x)에서
{g(x)}2−2g(x)−3=x2−2x−3
{g(x)}2−x2−2{g(x)−x}=0
{g(x)−x}{g(x)+x−2}=0
따라서 g(x)=x 또는 g(x)=−x+2이므로
x2+2x+a=x
x2+x+a=0 …… ㉠
x2+2x+a=−x+2
x2+3x+a−2=0 …… ㉡
㉠의 판별식을 D1이라 하면 D1=1−4a
㉡의 판별식을 D2라 하면 D2=9−4(a−2)=17−4a
(ⅰ) 방정식 ㉠은 서로 다른 두 실근을 갖고, 방정식 ㉡이 실근을 갖지 않는 경우
D1>0에서 a<41
D2<0에서 a>417
따라서 조건을 만족시키는 실수 a의 값은 존재하지 않는다.
(ⅱ) 두 방정식 ㉠, ㉡이 중근을 갖는 경우
D1=0에서 a=41
D2=0에서 a=417
따라서 조건을 만족시키는 실수 a의 값은 존재하지 않는다.
(ⅲ) 방정식 ㉠은 실근을 갖지 않고, 방정식 ㉡이 서로 다른 두 실근을 갖는 경우
D1<0에서 a>41
D2>0에서 a<417
따라서 41<a<417이다.
(ⅰ), (ⅱ), (ⅲ)에서 정수 a는 1, 2, 3, 4이므로 개수는 4이다.
[참고]

함수 g(x)의 최고차항의 계수가 1이고 함수 y=g(x)의 그래프가 직선 x=−1에 대하여 대칭이다. 즉, 이차함수의 그래프에서 서로 다른 실근의 개수가 2가 되려면 함수 y=g(x)의 그래프가 두 직선 y=x 또는 y=−x+2와 만나는 모든 서로 다른 점의 개수가 2이어야 하므로 함수 y=g(x)의 그래프가 직선 y=x와는 만나지 않고, 함수 y=g(x)의 그래프가 직선 y=−x+2와 서로 다른 두 점에서 만나야 한다. 즉, 방정식 ㉠의 실근의 개수가 0, 방정식 ㉡의 서로 다른 실근의 개수가 2이어야만 한다.