실마리: 두 점 A, B를 지나는 원의 반지름은 21AB=4보다 작을 수 없다. 반지름이 4가 되는 원이 직선 y=4 위의 점을 지날 수 있는지 본다.
외접원의 중심은 선분 AB의 수직이등분선 x=4 위에 있으므로 중심을 (4,k)라 하면 반지름의 제곱은 r2=42+k2=16+k2
C(t,4)가 이 원 위에 있으므로 (t−4)2+(4−k)2=16+k2
정리하면 (t−4)2=8k
좌변이 0 이상이므로 k≥0이고, k=0은 t=4일 때 가능하다.
따라서 r2=16+k2≥16이고 최솟값 16은 k=0, 즉 C(4,4)일 때이다.
이때 외접원은 (x−4)2+y2=16으로 선분 AB가 지름이고, 점 C(4,4)에서 각 ACB는 직각이다.
(다른 풀이) 선분 AB를 지름으로 하는 원 (x−4)2+y2=16은 점 (4,4)에서 직선 y=4와 만나므로, 반지름의 하한 4가 실제로 이루어진다.
따라서 외접원의 넓이의 최솟값은 16π이고 S=16