Надо выражение: cos^2(fi-5pi/8)-sin^2(fi-5pi/8)

Примечание. И если мы к углам π или 2π прибавляем (или отнимаем) какой-то угол, то тригонометрическая функция не меняется (косинус остаётся косинусом, а синус-синусом), а если мы прибавляем (или отнимаем) какой-то угол от углов π/2 или 3π/2, то косинус меняется на синус, к примеру:
cos(π/2 + 30°)=косинус во второй четверти меньше нуля-ставим минус и угол π/2 - поэтому косинус меняем на синус= -sin30°.

Итак, а в нашем примере после вышеописанных преобразований получаем:
cos(π+(π/4-2ф))=-cos(π/4-2ф)-это и будет ответ.

P.S. Можно ещё разложить косинус по, как разность двух углов, но данное задание требует упрощения, поэтому делать мы этого не будем. 

ответ: -cos(π/4-2ф).