실마리: 두 조건에서 x+y+z=4−w, x2+y2+z2=16−w2이므로, 세 실수 x, y, z에 코시-슈바르츠 부등식을 써서 w만의 부등식을 만든다.
코시-슈바르츠 부등식에 의하여
(12+12+12)(x2+y2+z2)≥(x+y+z)2
3(16−w2)≥(4−w)2
48−3w2≥16−8w+w2
4w2−8w−32≤0, 즉 w2−2w−8≤0
(w−4)(w+2)≤0이므로 −2≤w≤4
등호는 x=y=z일 때 성립하므로 실제로 이 값이 되는지 확인한다.
w=4일 때 x=y=z=0이면 x+y+z+w=4, x2+y2+z2+w2=16을 만족시킨다.
w=−2일 때 x=y=z=2이면 x+y+z+w=6−2=4, x2+y2+z2+w2=12+4=16을 만족시킨다.
(다른 풀이) w가 최대 또는 최소가 되는 것은 x=y=z=t일 때이므로 3t+w=4, 3t2+w2=16에서 t=34−w을 대입하면 (4−w)2+3w2=48, 즉 w2−2w−8=0에서 w=4 또는 w=−2로 같은 결과를 얻는다.
따라서 M=4, m=−2이므로 M−m=6