실마리: 네 점을 지나는 원은 두 점 A, B를 지나므로 두 원의 교점을 지나는 원의 꼴로 두고, 두 중심 O, C를 대입한다.
두 점 A, B를 지나는 원의 방정식은
(x2+y2−16)+k{(x−a)2+(y−b)2−9}=0 (단, k=−1)
이 원이 원점 O를 지나므로
−16+k(a2+b2−9)=0 …… ㉠
점 C(a,b)를 지나므로
a2+b2−16−9k=0 …… ㉡
a2+b2=m이라 하면 ㉡에서 k=9m−16
㉠에 대입하면
−16+9(m−16)(m−9)=0
m2−25m+144=144, m(m−25)=0
m>0이므로 m=a2+b2=25이고 k=1
k=1을 대입하여 정리하면
2x2+2y2−2ax−2by+a2+b2−25=0
x2+y2−ax−by=0
(x−2a)2+(y−2b)2=4a2+b2=425
즉 네 점을 지나는 원은 선분 OC를 지름으로 하는 원이고 S=425π
(검산: a2+b2=25이면 OC=5, OA=4, CA=3이므로 OA2+CA2=OC2이다. 즉 각 OAC가 직각이므로 선분 OC는 세 점 O, A, C를 지나는 원의 지름이고, 마찬가지로 각 OBC도 직각이므로 점 B도 이 원 위에 있다.)
따라서 π4S=25