원의 방정식을 x2+y2+Ax+By+C=0이라 하면 O(0,0)을 지나므로 C=0
A(0,6)을 대입하여 36+6B=0, B=−6
P(a,a)를 대입하여 2a2+Aa−6a=0이고 a=0이므로 A=6−2a
원의 방정식은 x2+y2+(6−2a)x−6y=0, 즉 (x+3−a)2+(y−3)2=(a−3)2+9
반지름의 제곱 (a−3)2+9는 a=3일 때 최소이다.
(다른 풀이) 두 점 O, A를 지나는 원의 반지름은 21OA=3보다 작을 수 없고, 선분 OA가 지름인 원 x2+(y−3)2=9는 점 (3,3)을 지나므로 a=3이다.
따라서 답은 ②