Найдите все значения а,при которых уравнение не имеет решений a(x^2+x^-+1)(x+x^-1)+5=0

A(x^2 + 1/x^2) - (a+1)(x + 1/x) + 5 = 0
1) При a = 0 будет
-(x + 1/x) + 5 = 0
-x^2 + 5x - 1 = 0
x^2 - 5x + 1 = 0
D = 25 - 4 = 21 > 0 - уравнение имеет 2 корня, не подходит.

2) При а не = 0 делаем замену x + 1/x = y 
Заметим, что при x > 0 будет y >= 2; при x < 0 будет y <= -2.
Причем y = 2 при x = 1 и y = -2 при x = -1. Тогда
y^2 = (x + 1/x)^2 = x^2 + 2x*1/x + 1/x^2 = x^2 + 1/x^2 + 2
То есть x^2 + 1/x^2 = y^2 - 2. Подставляем 
a(y^2 - 2) - (a+1)*y + 5 = ay^2 - (a+1)*y + (5-2a) = 0

3) Если это уравнение не имеет решений (D < 0), то и исходное тоже не имеет решений.
ay^2 - (a+1)*y + (5-2a) = 0
D = (a+1)^2 - 4*a*(5-2a) = a^2 + 2a + 1 - 20a + 8a^2 = 9a^2 - 18a + 1 < 0
Решаем это неравенство, находим D для него.
D1 = 18^2 - 4*9*1 = 324 - 36 = 288 = 2*144 = (12√2)^2
a1 = (18 - 12√2)/18 = (3 - 2√2)/3
a2 = (18 + 12√2)/18 = (3 + 2√2)/3
a ∈ ( (3 - 2√2)/3 ;  (3 + 2√2)/3 )

4) Если у этого уравнения есть корни, но они оба -2 < y < 2, то исходное уравнение тоже не имеет решений.
ay^2 - (a+1)*y + (5-2a) = 0
D = (a+1)^2 - 4*a*(5-2a) = a^2 + 2a + 1 - 20a + 8a^2 = 9a^2 - 18a + 1 >= 0
Решаем точно также
D1 = 18^2 - 4*9*1 = 324 - 36 = 288 = 2*144 = (12√2)^2
a1 = (18 - 12√2)/18 = (3 - 2√2)/3
a2 = (18 + 12√2)/18 = (3 + 2√2)/3
a ∈ (-oo;  (3 - 2√2)/3 ) U ( (3 + 2√2)/3; +oo)

Очевидно, что y1 < y2, поэтому нужно решить систему:


Распадается на две системы

а) Если a < 0, то есть a < (3 - 2√2)/3

{ 5a+1- √(9a^2-18a+1) > 0 
{ 1-3a+ √(9a^2-18a+1) < 0 
Выделяем корни
{ √(9a^2-18a+1) < 5a + 1
{ √(9a^2-18a+1) < 3a - 1
Если a < 0, то 3a - 1 < 0, арифметический корень не может быть отрицательным, поэтому решений нет.
б) Если a > 0, то есть a > (3 + 2√2)/3
 { 5a+1- √(9a^2-18a+1) < 0 
{ 1-3a+ √(9a^2-18a+1) > 0 
Выделяем корни
{ √(9a^2-18a+1) > 5a + 1
{ √(9a^2-18a+1) > 3a - 1
Если a > 0, то 5a+1 > 3a-1, достаточно решить 1 неравенство.
Возводим в квадрат.
9a^2-18a+1 > 25a^2 + 10a + 1
16a^2 + 28a < 0
4a(4a + 7) < 0
a ∈ (-7/4; 0)
Но по условию a > 0, поэтому решений опять нет.

ответ:  a ∈ ( (3 - 2√2)/3 ;  (3 + 2√2)/3 )