집합 X는 함수 y=f(x)의 그래프가 직선 y=1
또는 직선 y=−1과 만나는 점의 x좌표를 원소로 갖는 집합이고 집합 Y는 함수 y=g(x)의 그래프가 직선 y=1
또는 직선 y=−1과 만나는 점의 x좌표를 원소로 갖는 집합이다.
조건 (가)에서 n(X∩Y)=3, n(X∪Y)=4이므로 3≤n(X)≤4, 3≤n(Y)≤4
또한 n(X∪Y)=n(X)+n(Y)−n(X∩Y)에서 n(X)+n(Y)=n(X∪Y)+n(X∩Y)=7이므로
n(X)=3, n(Y)=4 또는 n(X)=4, n(Y)=3
(ⅰ) n(X)=3, n(Y)=4일 때 함수 f(x)는 최고차항의 계수가 양수인 이차함수이고 n(X)=3이므로 함수 y=f(x)의 그래프는 직선 y=−1에 접하고 직선 y=1과 서로 다른 두 점에서 만난다.
함수 y=f(x)의 그래프와 직선 y=−1이 만나는 점의 x좌표를 a라 하면 함수 y=f(x)의 그래프의 꼭짓점의 좌표가 (a,−1)이므로 f(x)=k(x−a)2−1(k는 양의 실수)
함수 y=f(x)의 그래프가 직선 x=a에 대하여 대칭이므로 함수 y=f(x)의 그래프가 직선 y=1과 만나는 두 점의 x좌표는 어떤 양의 실수 b에 대하여 a−b, a+b이다.
그러므로 X={a−b,a,a+b}

n(X)=n(X∩Y)=3에서 X=X∩Y이므로 조건 (나)에 의하여
(a−b)+a+(a+b)=3a=3, a=1
그러므로 f(x)=k(x−1)2−1이 되어 f(2)<f(1)을 만족시키지 않는다.
(ⅱ) n(X)=4, n(Y)=3일 때 함수 g(x)는 최고차항의 계수가 음수인 이차함수이고 n(Y)=3이므로 함수 y=g(x)의 그래프는 직선 y=1에 접하고 직선 y=−1과 서로 다른 두 점에서 만난다.
함수 y=g(x)의 그래프와 직선 y=1이 만나는 점의 x좌표를 a라 하면 함수 y=g(x)의 그래프의 꼭짓점의 좌표가 (a,1)이므로
g(x)=k(x−a)2+1(k는 음의 실수)
함수 y=g(x)의 그래프가 직선 x=a에 대하여 대칭이므로 함수 y=g(x)의 그래프가 직선 y=−1과 만나는 두 점의 x좌표는 어떤 양의 실수 b에 대하여 a−b, a+b이다. 그러므로 Y={a−b,a,a+b}

n(Y)=n(X∩Y)=3에서 Y=X∩Y이므로 조건 (나)에 의하여
(a−b)+a+(a+b)=3a=3, a=1
그러므로 Y={1−b,1,1+b}이고
g(x)=k(x−1)2+1 ⋯⋯ ㉠
n(X)=4이므로 함수 y=f(x)의 그래프는 두 직선 y=1, y=−1과 각각 서로 다른 두 점에서 만난다.
함수 y=f(x)의 그래프의 축의 방정식을 x=m이라 하면
f(x)=t(x−m)2+s(t는 양의 실수, s는 실수)
함수 y=f(x)의 그래프가 직선 x=m에 대하여 대칭이므로 함수 y=f(x)의 그래프가 직선 y=−1과 만나는 두 점의 x좌표는 어떤 양의 실수 c에 대하여 m−c, m+c이고 직선 y=1과 만나는 두 점의 x좌표는 어떤 양의 실수 d에 대하여 m−d, m+d이다. (단, c<d)
그러므로 X={m−d,m−c,m+c,m+d}

n(X)=n(X∪Y)=4에서 X=X∪Y이므로 조건 (나)에 의하여
(m−d)+(m−c)+(m+c)+(m+d)=4m=8
m=2
그러므로
f(x)=t(x−2)2+s ⋯⋯ ㉡
가 되어 f(2)<f(1)을 만족시킨다.
Y={1−b,1,1+b},
X={2−d,2−c,2+c,2+d}이고
Y=(X∩Y)⊂(X∪Y)=X
집합 Y의 원소 중 1보다 작거나 같은 수는 1−b, 1뿐이고 (1−b)∈X, 1∈X이므로
1−b=2−d, 1=2−c에서 d=b+1, c=1
그러므로 X={1−b,1,3,3+b}
또한 (1+b)∈X에서
1+b=3, b=2이므로
X={−1,1,3,5}, Y={−1,1,3}

함수 y=f(x)의 그래프가 두 점 (−1,1), (1,−1)을 지나므로 ㉡에서
f(−1)=9t+s=1, f(1)=t+s=−1
두 식을 연립하여 계산하면 t=41, s=−45이고
f(x)=41(x−2)2−45
함수 y=g(x)의 그래프가 점 (−1,−1)을 지나므로 ㉠에서
g(−1)=4k+1=−1, k=−21이고
g(x)=−21(x−1)2+1
따라서 (ⅰ), (ⅱ)에 의하여
f(7)−g(9)=5−(−31)=36