При каких значениях а модуль разности квадратов корней трехчлена (а+1)*х^2+(a+3)*x-4a-4 равен 15

тогда и только тогда, когда
Обозначим через t сумму корней. По т. Виета   Таким образом, . Отсюда  и т.е. Значит, из условия находим  a=-3/2 и a=0. В обоих случаях дискриминант уравнения положителен, т.е. имеются  2 действительных корня, поэтому ответ a=-3/2 и a=0.

Во-первых, а =/= -1, потому что иначе коэффициент при x^2 будет = 0.
Во-вторых, решаем уравнение
(a+1)*x^2 + (a+3)*x + (-4a-4) = 0
Можно решить традиционным
D = (a+3)^2 - 4(a+1)(-4a-4) = (a+3)^2 + 16(a+1)^2 =
= a^2 + 6a + 9 + 16a^2 + 32a + 16 = 17a^2 + 38a + 25 > 0 при любом а.
x1 = (-a-3 - √(17a^2 + 38a + 25)) / (2a+2)
x2 = (-a-3 + √(17a^2 + 38a + 25)) / (2a+2)
Но в принципе это все неважно. Рассмотрим модуль разности
|x1^2 - x2^2| = |(x1 - x2)(x1 + x2)| = 15
Denik777 навел меня на мысль. Разность квадратов корней нужно возвести в квадрат.
(x1^2 - x2^2)^2 = (x1 - x2)^2 * (x1 + x2)^2 = 15^2 = 225
(x1^2 - 2x1*x2 + x2^2)(x1 + x2)^2 = 225
(x1^2 + 2x1*x2 + x2^2 - 4x1*x2)(x1 + x2)^2 = 225
((x1 + x2)^2 - 4x1*x2)(x1 + x2)^2 = 225
По теореме Виета x1 + x2 = -(a+3)/(a+1); x1*x2 = (-4a-4)/(a+1) = -4
((a+3)^2/(a+1)^2 - 4(-4))*(a+3)^2/(a+1)^2 = 225
((a+3)^2 + 16(a+1)^2)*(a+3)^2 / (a+1)^4 = 225
Первая скобка равна D, который мы уже вычислили
(17a^2 + 38a + 25)(a^2 + 6a + 9) = 225(a + 1)^4
17a^4+38a^3+25a^2+102a^3+228a^2+150a+153a^2+342a+225 =
= 225a^4 + 900a^3 + 1350a^2 + 900a + 225
Упрощаем
208a^4 + 760a^3 + 944a^2 + 408a = 0
Делим на 8
26a^4 + 95a^3 + 118a^2 + 51a = 0
a1 = 0
26a^3 + 95a^2 + 118a + 51 = 0
Кубическое уравнение имеет как минимум 1 корень.
И в данном случае отрицательный. При a > 0 корней явно нет.
F(-3) = -150 < 0; F(-2) = -13 < 0; F(-1) = 2 > 0
-2 < a2 < -1
Можно уточнить, например до точности 0,1
F(-1,4) = -26*1,4^3 + 95*1,4^2 - 118*1,4 + 51 = 0,656 > 0
F(-1,5) = -26*1,5^3 + 95*1,5^2 - 118*1,5 + 51 = 0
a2 = -1,5

Denik777 в итоге все равно сделал проще и понятнее.
Что-то меня последнее время тянет на сложности.