Не могу понять как преобразовали дробь.

В числителе квадрат разности двух выражений.

(a - b)² = a² - 2ab + b²

Давайте пойдем от ответа, т.е. от квадрата разности  двух выражений. А именно рассмотрим правую часть

(1/2)*(√а-√b)²=(1/2)*((√a)²-2*√a*√b+(√b)²)=(a-2√(a*b)+b)/2

Если же начать преобразовывать слева направо дробь, легко заметить, что а=(√а)²; b=(√b)²; 2*√a*√b=2*√(ab), поэтому к  левой части применим формулу и свернем ее как квадрат разности двух выражений √а и √b.

Квадрат разности, например, х и у, равен (х-у)²=х²-2ху+у²

Понятно?