두 점 O, C 가 모두 A, B 에서 같은 거리에 있으므로 OA=OB, CA=CB 의 두 식을 세우고, B 가 A 와 다른 점임을 끝에 확인한다.
OA2=OB2 에서 1+9=a2+b2, 즉 a2+b2=10 ㉠
CA2=CB2 에서 (8−1)2+(4−3)2=(8−a)2+(4−b)2
50=a2+b2−16a−8b+80
㉠을 대입하면 50=10−16a−8b+80 에서 2a+b=5 ㉡
㉡에서 b=5−2a 를 ㉠에 대입하면 a2+(5−2a)2=10
5a2−20a+15=0, a2−4a+3=0 에서 a=1 또는 a=3
a=1 이면 b=3 이므로 점 B 가 점 A 와 일치하여 조건에 맞지 않는다.
따라서 a=3, b=−1, 즉 B(3,−1)
두 점 O, C 가 선분 AB 의 수직이등분선 위에 있으므로 점 B 는 직선 OC 에 대하여 점 A 와 대칭인 점이다.
AB2=(3−1)2+(−1−3)2=4+16=20