При каких значениях а уравнение х^2+(а^2-1)х-а^2+9=0 имеет только отрицательные корни.

Имеем квадратное уравнение. Необходимо, чтобы у него были хоть какие-нибудь корни:
D = (a^2 - 1)^2 + 4(a^2 - 9) >= 0
a^4 - 2a^2 + 1 + 4a^2 - 36 >= 0
a^4 + 2a^2 + 1 >= 36
(a^2 + 1)^2 >= 36
a^2 + 1 >= 6 (a^2 + 1 > 0 > -6 для всех а)
a^2 >= 5

Рассмотрим квадратичную функцию f(x) = x^2 + (a^2 - 1)x + (9 - a^2).
Необходимо, чтобы все нули этой функции были меньше 0.

Заметим, что график этой функции симметричен относительно прямой y = (1 - a^2) / 2 (эта прямая проходит через вершину параболы y = f(x)). Тогда если хотя бы один ноль лежит левее этой прямой, то всегда есть ноль правее этой прямой. Поэтому для того, чтобы все нули оказались отрицательными, необходимо, чтобы выполнялось неравенство
(1 - a^2) / 2 < 0
1 - a^2 < 0
a^2 > 1

Функция f(x) монотонно возрастает справа от прямой y = (1 - a^2) / 2, на бесконечности неограниченно возрастая. Поэтому если f(0) <= 0, то на промежутке [0, infty) гарантированно есть один корень. В противном случае при f(0) > 0 на этом промежутке корней не будет - как раз то, что надо. Такаим образом, надо потребовать выполнения соотношения
f(0) = 9 - a^2 > 0
a^2 < 9

Итак, получаем систему неравенств
a^2 >= 5
a^2 > 1
a^2 < 9