Площадь трапеции равна 30. высота равна 5 одна из диагоналей равна 6. найти вторую диагональ

Типовое построение - проводим через вершины малого основания прямую II диагонали, НЕ проходящей через эту вершину, до пересечения с продолжением большого основания. Получается треугольник, РАВНОВЕЛИКИЙ (имеющий ту же площадь) трапеции (у него основание равно сумме оснований трапеции, а высота - общая с трапецией). 

В этом треугольнике нам известна одна сторона 6, высота к "основанию" 5, площадь 30, надо найти стороны. Обозначим неизвестные стороны c и b

"основание" находится легко (это с)

с*5/2 = 30, с = 12. (для трапеции это - сумма оснований :))

если обозначить угол между диагональю и основанием Ф, то из этого треугольника находим sin(Ф) = 5/6. 

Отсюда сos(Ф) = корень(1 - (5/6)^2) = корень(11)/6;

по теореме косинусов

b^2 = 6^2 + 12^2 - 2*6*12*корень(11)/6 = 180 - 24*корень(11);

b = корень(180 - 24*корень(11));