Найти все значения m из условия, что корни уравнения: x^3-20x^2+mx-540=0 являются длинами сторон прямоугольного треугольника.

Напишем уравнение как произведение скобок с корнями.
x^3 - 20x^2 + mx - 540 = 0
(x - x1)(x - x2)(x - x3) = 0
Раскрываем скобки
x^3 - x^2*(x1 + x2 + x3) + x*(x1*x2 + x2*x3 + x1*x3) - x1*x2*x3 = 0
Коэффициенты при одинаковых степенях x должны быть равны.
{ x1 + x2 + x3 = 20
{ x1*x2 + x2*x3 + x1*x3 = m
{ x1*x2*x3 = 540
По сути, это теорема Виета для кубического уравнения.
Кроме того, мы знаем, что корни - это стороны прям-ного тр-ника:
{ x1^2 + x2^2 = x3^2
Это значит, что x1 > 0, x2 > 0, x3 > 0, и тогда m > 0.
Обозначим левую часть как функцию.
y = x^3 - 20x^2 + mx - 540
Можно взять производную и найти экстремумы этой функции.
Очевидно, чтобы у него было 3 действительных корня, максимум должен быть положителен, а минимум отрицателен.
3x^2 - 40x + m = 0 - это уравнение должно иметь 2 корня.
D/4 = 20^2 - 3m = 400 - 3m > 0; m < 400/3
Но мы помним, что m > 0. Если m целое, то m ∈ [1; 133]
x1 = (20 - √(400-3m))/3 - максимум
x2 = (20 + √(400-3m))/3 - минимум
И должно быть y(x1) > 0; y(x2) < 0
Возможные значения m, при которых D есть точный квадрат.
m = 13; D = 361 = 19^2; x1 = 1/3; y1 = -537,851 < 0; x2 = 13; y2 = -1554
m = 37; D = 289 = 17^2; x1 = 1; y1 = -522 < 0; x2 = 37/3; y2 = -1249,851
m = 48; D = 256 = 16^2; x1 = 4/3; y1 = -509,185 < 0; x2 = 12; y2 = -1116
m = 68; D = 196 = 14^2; x1 = 2; y1 = -476 < 0; x2 = 34/3; y2 = -882,518
m = 77; D = 169 = 13^2; x1 = 7/3; y1 = -456,518 < 0; x2 = 11; y2 = -782
m = 93; D = 121 = 11^2; x1 = 3; y1 = -414 < 0; x2 = 31/3; y2 = -611,185
m = 100; D = 100 = 10^2; x1 = 10/3; y1 = -391,851 < 0; x2 = 10; y2 = -540
m = 112; D = 64 = 8^2; x1 = 4; y1 = -348 < 0; x2 = 28/3; y2 = -423,851
m = 117; D = 49 = 7^2; x1 = 13/3; y1 = -327,185 < 0; x2 = 9; y2 = -378
m = 125; D = 25 = 5^2; x1 = 5; y1 = -290 < 0; x2 = 25/3; y2 = -308,518
m = 128; D = 16 = 4^2; x1 = 16/3; y1 = -274,518 < 0; x2 = 8; y2 = -284
m = 132; D = 4 = 2^2; x1 = 6; y1 = -252 < 0; x2 = 22/3; y2 = -253,185
m = 133; D = 1 = 1^2; x1 = 19/3; y1 = -245,851 < 0; x2 = 7; y2 = -246
Во всех этих случаях максимум отрицателен, значит, если m > 0, то уравнение имеет 1 корень.
ответ: решений нет.