Надо найти площадь прямоугольника, если одна сторона равна 5 см, а угол между диагоналями равен 60 градусов.

Диагонали точкой пересечения делятся пополам))
и диагонали прямоугольника равны...
угол между диагоналями и половинки (равные половинки)) диагоналей образуют равнобедренный треугольник с углом при вершине 60 градусов))
значит, этот треугольник равносторонний...
т.е. диагонали прямоугольника по 10 см
и дальше или по т.Пифагора найти вторую сторону прямоугольника (=5√3)
либо сразу площадь
S = (1/2)*d1*d2*sin60° = 100√3 / 4 = 25√3

Пусть ABCD прямоугольник и O точка пересечения диагоналей(AO=OC=AC/2 = BD/2= BO =CO) .
S₁ =S(AOB) =S(BOC) =S(COD)=S(AOB).
S=S(ABCD) =4S₁ =4*(5²√3)/4.=25√3.