(х в квадрате - 6х ) в квадрате + 14(х - 3 ) в квадрате = 81

Так, уравнение скажу сразу, объемное, если идти "в лоб":

(x^2-6x)^2+14(x-3)^2=81

(x^2-6x)^2=x^4-12x^3+36x^2.

14(x-3)^2=14(x^2-6x+9)=14x^2-84x+126.

Соберем все вместе:

X^4-12X^3+36X^2+14X^2-84X+126-81=0

x^2-12x^3+50x^2-84x+45=0;

Старый добрый метод подбора корней, при котором уравнение уходит в ноль:

При x=1, (первым корнем уравнения) уравнение занулится.

1-12+50-84+45=0    0=0.

Далее, выполняем деление "столбиком"

x^4-12x^3+50x^2-84x+45 делим на (x-1).

Получим кубическое уравнение:

x^3-11x^2+39x-45.

Прировняем его к нолю, и с метода подбора корней получим, что при x=3, уравнение зануляется.Далее, опять выполняем деление столбиком, получаем квадратное уравнение:

x^2-8x+15=0

D=64-60=4.

x1=(8+2)/2=5;

x2=(8-2)/2=3. Корень уже дублирует имеющийся в ответе x=3.

В итоге, ответ: x=1;x=3;x=5.