(x-1)(y+2)=0
x^2+2y^2-4xy=17
И это всё под фигурной скобкой

(x-1)(y+2)=0   (1)

x^2+2y^2-4xy=17   (2)

Произведение двух множителей равно нулю, если хотя бы один из них равен нулю, а другой при этом не теряет смысла.

(x-1)(y+2)=0  

1. х - 1  = 0

х = 1

1 + 2y^2 - 4y = 17

y^2 - 2y - 8 = 0

D = 4 + 32 = 36

y12 = (2 +- 6)/2 = -2   4

2. у+2 =0

у = -2

x^2 + 2*(-2)^2 - 4x*(-2) = 17

x^2 + 8 + 8x - 17 = 0

x^2 + 8x - 9 = 0

D = 64 + 36 = 100

x12= (-8 +- 10)/2 = 1    -9

ответ (1, -2), (1, 4),  ( -9, -2)