Подскажите, как получается ответ из подчеркнутого? ломаю голову, не могу понять принцип решения

Никак не получите ответ, надо начать с Вашей ошибки перед подчеркиванием, Вы неверно свернули формулу, т.е. там лишние квдраты, а подчеркнуть надо было следующее

-(cos2α-sin2α)²/((cos2α-sin2α)*(cos2α+sin2α))= здесь сокращаете на выделенную жирным шрифтом скобку в первой степени, в знаменателе просто меняете местами синус  с косинусом, после чего получите

-(cos2α-sin2α)/(sin2α+cos2α)), а здесь просто раскроете скобку, перед которой минус, поменяв знаки на противоположные, т.е. (sin2α-cos2α)/(sin2α+cos2α) и получите верный ответ.

Все верно, кроме одной записи, перед подчеркнутым. У ВАС  написано -(cos²2α-sin²2α)²/((cos2α-sin2α)*(cos2α+sin2α)), а надо без квадратов в первой скобке, вот так

-(cos2α-sin2α)²/((cos2α-sin2α)*(cos2α+sin2α))

Дополнение. ОТ

2cos2α*sin2α-(sin²2α+cos²2α)=2cos2α*sin2α-sin²2α-cos²2α вынесем минус за скобки. Получим

-(-2cos2α*sin2α+sin²2α+cos²2α) поставим на свои места все необходимое для формулы (а-в)²=а²-2ав+в², но в качестве а берем косинус, а в качестве в синус. Получаем

-(cos²2α-2cos2α*sin2α+sin²2α)=--(cos2α-sin2α)² Это числитель так преобразовали. Это поняли?