Выражение (a-b)*корень(9/(a^2-2*a*b+ где a-b< 0.

(a-b)*корень(9/(a^2-2ab+b^2)=(a+b)*корень(3^2/(a-b)^2)=(a+b)*(3/(a-b))=3

a^2-2ab+b^2=(a-b)^2   т.е. сворачивается в квадрат разности
(a-b) в числителе и знаменателе сокращается
в итоге выражение =3