f(x+g(y))=(x+y2−1)2−1 ⋯⋯ ㉠
㉠의 양변에 x=0을 대입하면
f(g(y))=(y2−1)2−1 ⋯⋯ ㉡
㉠의 양변에 y=0을 대입하면
f(x+g(0))=(x−1)2−1
위 식의 x대신 x−g(0)을 대입하면
f(x)={x−g(0)−1}2−1
f(0)=3이므로 위 식에 x=0을 대입하면
f(0)={−g(0)−1}2−1=3
∴ g(0)=1 또는 g(0)=−3
ⅰ) g(0)=1일 때,
f(x)=(x−2)2−1이므로
f(g(y))={g(y)−2}2−1
㉠에서
{g(y)−2}2−1=(y2−1)2−1
따라서 g(y)−2=±(y2−1)
즉, g(y)=2±(y2−1)
그런데 g(0)=1이므로
g(y)=2+(y2−1)=y2+1
∴ f(7)+g(7)=24+50=74
ⅱ) g(0)=−3일 때,
f(x)=(x+2)2−1이므로
f(g(y))={g(y)+2}2−1
㉠에서
{g(y)+2}2−1=(y2−1)2−1
따라서 g(y)+2=±(y2−1)
즉, g(y)=−2±(y2−1)
그런데 g(0)=−3이므로
g(y)=−2+(y2−1)=y2−3
∴ f(7)+g(7)=80+46=126
ⅰ), ⅱ)에서 가능한 f(7)+g(7)의 값은 74 또는 126이므로 구하는 f(7)+g(7)의 최댓값은 126이다.