Решить систему уравнений x+y=x^2 3y-x=y^2

Если x = 0, то y = 0; и наоборот. Пусть теперь x и y отличны от нуля.
Выразим y из первого уравнения и подставим в первое:
3(x^2 - x) - x = (x^2 - x)^2
Разделим уравнение на x:
3x - 4 = x(x - 1)^2
Раскрываем скобки, приводим к общему знаменателю:
x^3 - 2x^2 - 2x + 4 = 0
Многочлен из левой части легко раскладывается на множители:
x^2(x - 2) - 2(x - 2) = 0
(x^2 - 2)(x - 2) = 0
Отсюда находим 3 возможных значения x:
x = 2;  x = sqrt(2);   x = -sqrt(2)
Тогда, т.к. y = x^2 - x, находим
y = 2;  y = 2 - sqrt(2);  y = 2 + sqrt(2)

ответ. (0, 0); (2, 2); (+-sqrt(2), 2 -+ sqrt(2))