Одну вещь понять, вот даны, допустим, точки m(9; -8) - центр и a(5; 4). формула - (x-a)^2 + (y+b)^2 = r^2. как понять какие буквы нужно заменить на числа из точек. от чего это зависит? то ли так (9 - 5) + (4 - (- то ли так (5 - 9) + (-8 - 4)?

(х - а)² + (у - b)² = R², где (a, b) - центр, R - радиус 
Т.к. М - центр, то вместо а и b нужно подставить координаты точки М, а вместо х  и у - координаты точки А (произвольной точки окружности):
(5 - 9)² + (4 - (-8))² = (-4)² + (4 + 8)² = 4² + 12² = 16 + 144 = 160 = R², откуда
R = √160 = 4√10