두 점 A, B를 지나는 원의 방정식은
(x2+y2−2x−2y−3)+k(x2+y2−6y−1)=0 (단, k=−1)
이 원이 점 P(6,1)을 지나므로 x=6, y=1을 대입하면
(36+1−12−2−3)+k(36+1−6−1)=0
20+30k=0에서 k=−32
양변에 3을 곱하여 정리하면
3(x2+y2−2x−2y−3)−2(x2+y2−6y−1)=0
x2+y2−6x+6y−7=0
(x−3)2+(y+3)2=25
이 원이 y축과 만나는 점은 x=0을 대입하여
y2+6y−7=0, (y+7)(y−1)=0
y=−7 또는 y=1
따라서 두 점 (0,1), (0,−7) 사이의 거리는 8