x2−5x+4=0에서 (x−1)(x−4)=0이므로 A={1,4}
B는 공집합이 아닌 A의 부분집합이므로
B={1} 또는 B={4} 또는 B={1,4}
(ⅰ) B={1}이면 방정식 x2+ax+b=0이 x=1을 중근으로 가지므로
x2+ax+b=(x−1)2=x2−2x+1, a=−2, b=1, a+b=−1
(ⅱ) B={4}이면 x2+ax+b=(x−4)2=x2−8x+16, a=−8, b=16, a+b=8
(ⅲ) B={1,4}이면 x2+ax+b=(x−1)(x−4)=x2−5x+4, a=−5, b=4, a+b=−1
따라서 a+b의 최댓값은 8
④