공비를 r라 하면 a+b+c=a+ar+ar2=27에서
a(1+r+r2)=27⋯㉠
또, abc=a⋅ar⋅ar2=1에서 a3r3=(ar)3=1이고
a,r는 실수이므로 ar=1⋯㉡
㉠, ㉡ 에서
r1+r+r2=27,2r2+2r+2=7r,2r2−5r+2=0
(r−2)(2r−1)=0 ∴r=2 또는 r=21
㉠에서 a=21 또는 a=2
따라서 세 수는 2,1,21이다.
∴a2+b2+c2=22+12+(21)2=421
[다른 풀이]b2=ac이므로 (나)에서 b3=1 ∴b=1
b=1이므로 ac=1이고, (가)에서 a+c=25이므로
ab+bc=25 ∴a2+b2+c2=(a+b+c)2−2(ab+bc+ca)=421