При каком действительном значении а, сумма квадратов корней уравнения будет наименьшей? x^2+(a+1)x+3a-7=0

Замечаем, что наше уравнение является квадратным. Прежде всего, что необходимо для выполнения условия задачи? Правильно, само наличие двух корней(ведь прежде чем квадраты корней складывать, необходимо, чтобы было, что складывать). Квадратное уравнение имеет два корня, если его дискриминант положителен. Ищем D:
D = (a+1)^2 - 4(3a-7) = a^2 + 2a + 1 - 12a + 28 = a^2 - 10a + 29 > 0
Замечаем, что дискриминант левой части неравенства D1 = 100 - 4 * 29 < 0. Это значит, что D > 0 всегда, при всех a.(ведь условие D1 < 0 обеспечивает то, что левая часть неравенства не имеет корней, не имеет пересечений с осью OX, а поскольку коэффициент при a^2 положителен, корни параболы направлены вверх - парабола целиком над осью OX, то есть, положительна всегда)
Итак, два различных корня уравнение имеет всегда. Осталось разобраться с суммой квадратов. Выражу её для наших целей через сумму и произведение корней(тогда будет хороший шанс применить теорему Виета). Мы знаем, что
(x1 + x2)^2 = x1^2 + x2^2 + 2x1x2. Отсюда
x1^2 + x2^2 = (x1 + x2)^2 - 2x1x2
По теореме Виета:
x1 + x2 = -(a+1), x1x2 = 3a-7
Подставляем их в выражение для суммы квадратов:
x1^2 + x2^2 = (a+1)^2 - 2(3a-7) = a^2 + 2a + 1 - 6a + 14 = a^2 - 4a + 15
Ну и теперь осталось ответить на вопрос, когда же значение трёхчлена a^2 - 4a + 15 будет минимальным. Это очень легко сделать. учитывая, что минимальное значение достигается в абсциссе вершины параболы. Находим её:
a0 = -b/2a = 4/2 = 2
При a = 2 трёхчлен квадратный принимает наименьшее значение, а значит, и сумма квадратов корней тоже.  Задача решена.

ответ: 2