Это уравнение равносильно системе двух уравнений (переход от второй строчки к третьей). Дальше банально решается квадратное уравнение (я решала с обратной теоремы Виета, то есть подбирала корни, но, возможно, кому-то удобнее дискриминантом - кому как), после чего оба корня проверяются на соответствие первому условию системы.
4-6x-x²=x²+8x+16,
2x²+14x+12=0,
x²+7x+6=0,
x1=-6; x2=-1.