(ctga)^2-(cosa)^2*(ctga)^2-(cosa)^2=?

Давайте вынесем что-нибудь как общий множитель
-(cosA)^2*((ctgA)^2 + 1) + (ctgA)^2
заметим что в выражение (ctgA)^2 + 1 равно 1/(sinA)^2
тогда получим выражение
-(tgA)^2 + (ctgA)^2 вспомним великую мудрость о том, что 1/(tgA)^2 = (ctgA)^2
тогда получим -(tgA)^2 + 1/(tgA)^2
распишем суть тангенса: -((sinA)^2/(cosA)^2)+((cosA)^2/(sinA)^2)
получаем дробь у которую необходимо привести к общему знаменателю И ТОГДА в числителе дроби будет выражение
(cosA)^2*(sinA)^2 - (cosA)^2*(sinA)^2
а значит и всё выражение равно 0. это успех!