При каких значениях "а" уравнение sqrt(2xy+a)=x+y+5 не имеет решений?

Тогда и только тогда когда 2xy+a  меньше 0 так как  под кореннное выражение всегда должно быт больше 0 

√2xy+a <0

 2xy<-a 

 -2xy>a

ОДЗ(область допустимых значений): подкорневое выражение всегда положительно!

значит 2xy+a>=(больше или равно) 0 

значит а>= - 2xy

тогда выраженіе не имеет смысла при а<-2xy