:sin^6(a)+cos^6(a)+3sin^2(a)*cos^2(a)

(sin^2(а) + cos^2(a))^3 = sin^6(a) + cos^6(a) + 3sin^2(a)*cos(a) + 3sin(a)*cos^2(a) = 1, значит, sin^6(a)+cos^6(a) = 1 - 3sin(a)*cos(a)*(sin(a)+cos(a)) (сразу вынесла произведение за скобку)
Все выражение имеет вид:
1 - 3sin(a)*cos(a)*(sin(a)+cos(a)) + 3sin^2(a)*cos^2(a) = 1 - 3sin(a)*cos(a)*(sin(a)+cos(a)-sin(a)*cos(a)) не уверена, что таким должен быть ответ, но если ещё что-нибудь преобразовать, может, получится...