Решая иррациональное неравенство наткнулся на проблему, у меня получается в первой системе(x^2+3x-18> =0; 2x+3> =0; x^2+3x-18> (2x+3)^2), у самого последнего условия(x^2+3x-18> (2x+3)^2) нет действительных корней, что делать дальше, решать первую систему без последнего условия или начать решать вторую систему?

если что, вот сам пример:

да. при решении самого неравенства у Вас получилось, что дискриминант меньше нуля, а первый коэффициент больше нуля. Если перевести это на язык графика квадратичной функции, получается, что она не пересекается с осью ох, но ветви направлены вверх, т.е. она лежит выше оси ох, значит, всегда положительна, а у Вас квадратный трехчлен меньше нуля. Поэтому решений нет. А первые два неравенства - это область определения,  так что ничего не надо начинать снова, просто записать ответ, что нет решений.