거리의 합이 최소가 되는 축 위의 점은 한 점의 대칭점과 다른 점을 이은 선분이 축과 만나는 점이므로, 대칭점·주어진 점·B 가 한 직선 위에 있다.
점 A 를 x축에 대하여 대칭이동한 점을 A′ 이라 하면 A′(2,−3) 이고
b>0 이므로 PA+PB=A′P+PB≥A′B
등호는 점 P 가 선분 A′B 위에 있을 때 성립하므로 세 점 A′, P(4,0), B 는 한 직선 위에 있다.
직선 A′P 의 기울기는 4−20+3=23 이므로 b=23(a−4) ㉠
점 A 를 y축에 대하여 대칭이동한 점을 A′′ 이라 하면 A′′(−2,3) 이고
a>0 이므로 마찬가지로 세 점 A′′, Q(0,3), B 는 한 직선 위에 있다.
직선 A′′Q 는 y=3 이므로 b=3
㉠에 대입하면 3=23(a−4) 에서 a=6
실제로 B(6,3) 이면 점 P(4,0) 은 선분 A′B 의 중점이고 점 Q(0,3) 은 선분 A′′B 위에 있으므로 두 조건을 모두 만족시킨다.
따라서 ab=6×3=18