M^2=(2a-3b)^2. (Возводим в квадрат обе части) (2a-3b)^2=4a^2-12ab+9b^2; a^2 это квадрат модуля а, то есть 4;b^2 аналогично =1; после -12 стоит скалярное произведение векторов оно вычисляется как произведение модулей аиb на cos 120 градусов(это -1/2) тогда m^2=4*4-12*2*1*(-1/2)+9*1=37 тогда m=корень квадратный из 37