Если для мальчиков бегут навстречу друг другу по окружности длиной 120м то они встретятся через 15 с

Путь = скорость * время.
Бегут навстречу друг другу: скорость сближения = Х + У, время = 15 сек, путь = 120 м.
Бегут друг за другом: скорость сближения = Х - У, время = 60 сек, путь = 120 м.

Система уравнений:
15 (Х+У)=120
60(Х-У)=120

Умножаем первое уравнение на -1 и складываем оба уравнения:
(-15Х-15У) +(60Х-60У)= 120-120
45Х-75У=0
45Х=75У
Х=У*5/3

Подставим это значение в любое уравнение, например, в первое:
15*(У*5/3 + У)=120
15*8/3* У= 120
40У=120
У=3  и тогда Х=3*5/3=5

Проверка: 
при беге навстречу со скоростью 5 м/сек и 3 м/сек за 15 сек. будет пройдено 15*(5+3)=120 м,
при беге друг за другом со скоростью 5 м/сек и 3 м/сек за 60 сек. будет пройдено 60*(5-3)=120 м.