실마리: AB:AC가 정해져 있으므로 ∠A의 외각의 이등분선이 직선 BC와 만나는 점도 정해지고, 내각과 외각의 이등분선은 서로 수직이다.
각의 이등분선 정리에서 AB:AC=BD:DC=4:6=2:3
∠A의 외각의 이등분선이 직선 BC와 만나는 점을 E라 하면 외각의 이등분선 정리에서
BE:CE=AB:AC=2:3
AB<AC이므로 점 E는 점 B 쪽의 연장선 위에 있고 CE=BE+10
BE:(BE+10)=2:3에서 3BE=2BE+20, BE=20
내각의 이등분선과 외각의 이등분선은 서로 수직이므로 ∠DAE=90∘
따라서 점 A는 선분 DE를 지름으로 하는 원 위에 있다.
DE=BE+BD=20+4=24이므로 이 원의 중심 O는 직선 BC 위에 있고 반지름의 길이는 12이다.
삼각형 ABC의 밑변 BC의 길이는 10으로 일정하고, 높이는 점 A에서 직선 BC까지의 거리이므로 원의 반지름의 길이 12를 넘을 수 없다.
높이가 12가 되는 것은 점 A가 점 O에서 직선 BC에 수직으로 반지름만큼 떨어진 점일 때이고, 이때 실제로 삼각형이 만들어진다.
(검산: B(0,0), C(10,0), A(x,y)로 두면 3AB=2AC에서 9(x2+y2)=4(x−10)2+4y2, 정리하면 (x+8)2+y2=144로 중심 (−8,0), 반지름 12인 원이다.)
따라서 삼각형 ABC의 넓이의 최댓값은 21×10×12=60