[출제의도] 유리함수를 이용하여 문제해결하기
g(x)=ax+b−21+3=x−a2−ba1+3이므로 점근선은 두 직선 x=a2−b, y=3이다.
(ⅰ) a>0, b≥2일 때
a2−b<0이고 a1>0이므로 함수 y=g(x)의 그래프는 그림과 같다.

x>0에서 g(x)>3이므로
a>0, b≥2일 때 조건 (가)를 만족시키지 않는다.
(ⅱ) a>0, b<2일 때
a2−b>0이고 a1>0이므로 함수 y=g(x)의 그래프는 그림과 같다.

x>a2−b에서 g(x)>3이므로
a>0, b<2일 때 조건 (가)를 만족시키지 않는다.
(ⅲ) a<0, b≥2일 때
a2−b>0이고 a1<0이므로 함수 y=g(x)의 그래프는 그림과 같다.

0<x<a2−b에서 g(x)>3이므로
a<0, b≥2일 때 조건 (가)를 만족시키지 않는다.
(ⅳ) a<0, b<2일 때
a2−b<0이고 a1<0이므로 함수 y=g(x)의 그래프는 그림과 같다.

함수 y=g(x)의 그래프에서
x>0일 때, b−21+3<g(x)<3이므로 조건 (가)에서 1≤b−21+3
b−2<0이므로 −21≥b−2 ∴ b≤23
따라서 a<0, b≤23일 때 조건 (가)를 만족시킨다.
함수 y=x−21+3의 그래프의 x절편은 35, y절편은 25이므로 조건 (나)를 만족시키는 두 함수 y=f(x)와 y=x−21+3의 그래프는 그림과 같다.

조건 (나)에서 f(35)≥0, b>0이므로
35a+b≥0 ∴ b≥−35a
따라서 a<0, 0<b≤23, b≥−35a에서 조건 (가), (나)를 만족시키므로 영역 R를 좌표평면에 나타내면 그림과 같다.

양수 k애 대하여 x2+y2=k2이라 하면 k는 중심이 (0,0)인 원의 반지름의 길이이다.

점 (a,b)는 영역 R에 속하는 점이고, 그림에서 x=−109,y=23일 때, k가 최대이므로 a2+b2의 최댓값은
M=(−109)2+(23)2=100306
따라서 100M=306