Докажите неравенство a^2-8ab+17 b^2-2b+3> 0

Правая часть неравенства может быть преобразована так: (a-4b)^2+b^2-2b+1+2  .
Значит неравенство приобретает вид:
(a-4b)^2+(b-1)^2>-2
Что очевидно, т.к. слева выражение неотрицательно, а справа отрицательно.