Можно взять первое число за х, второе за у. Получится, что х+у=20; х в квадрате - у в квадрате=80, разложим по разности квадратов на две скобки: (х-у)(х+у)=80. вторую скобку заменим на 20, известно из условия, получится, что х-у=80/20=4, не знаю как дальше, но думаю, что это будет полезно в решении я бы рассуждала так: сумма равна 20, значит оба числа четные, одно больше другого на 4, можно из первого примера, где сумма, заменить у на "х+4", и получится х+х+4=20; 2х=16; х=8, потом к 8 прибавим ту самую 4, которую ранее же и нашли, и получим второе число, очень надеюсь, что
x+y=20
x²-y²=80
y=20-x
(x-y)(x+y)=80
y=20-x
20(x-y)=80
y=20-x
x-y=80/20
y=20-x
x-y=4
y=20-x
x-20+x=4
y=20-x
2x=24
x=12
y=8
Проверка
12+8=20
12²-8²=144-64=80