주사위를 두 번 던져서 나오는 전체 경우의 수는 6×6=36가지이다.
ax2+2bx+a−3≤0에서 최고차항의 계수가 양수이므로 해가 존재하기 위해서는 이차방정식 ax2+2bx+a−3=0의 판별식을 D라 할 때
4D=b2−a(a−3)≥0, 즉 b2≥a(a−3)
을 만족해야 한다.
(ⅰ) a=1, 2, 3일 때
b=1, 2, 3, ⋯, 6이면 성립하므로 가능한 경우의 수는 3×6=18가지이다.
(ⅱ) a=4일 때
b2≥4에서 b=2, 3, 4, 5, 6의 5가지이다.
(ⅲ) a=5일 때
b2≥10에서 b=4, 5, 6의 3가지이다.
(ⅳ) a=6일 때
b2≥18에서 b=5, 6의 2가지이다.
이상에서 이차부등식 ax2+2bx+a−3≤0의 해가 존재하는 경우의 수는 18+5+3+2=28이므로 구하는 확률은
3628=97