8(x-10)в квадрате -11(x+5)в квадрате =-3x в квадрате -170x+1600;

Что ж, как-то так получилось.

8(x - 10)² - 11(x + 5)² = -3x² - 170x + 1600
8(x² - 20x + 100) - 11(x² + 10x + 25) = -3x² - 170x + 1600
8x² - 160x - 11x² - 110x + 3x² + 170x = 1600 - 800 + 275
-100x = 1075
x = -10,75

ответ: {-10,75}