Если tg бетта=-2, тогда sinбетта *cos бетта -3/6cos квадрат бетта -sin квадрат бетта

Есть готовые формулы
sin b = tg b / √(1 + tg^2 b) = -2/√(1 + 4) = -2/√5
cos b = 1 /  √(1 + tg^2 b) = 1/√(1 + 4) = 1/√5
Если хочешь, можешь их вывести из системы:
{ tg b = sin b / cos b
{ sin^2 b + cos^2 b = 1
А можешь просто так воспользоваться.
Подставляешь в свое выражение и вычисляешь.
Само выражение у тебя написано не очень понятно, поэтому вычисляй самостоятельно. Примерно, как я понял, это будет так:
(sin b*cos b + 3) / (6cos^2 b + sin^2 b) = (-2/√5*1/√5 + 3) / (6*1/5 + 4/5) = 
= (-2/5 + 3) / (10/5) = (-0,4 + 3) / 2 = 2,6 / 2 = 1,3