Найти общее решение дифференциального уравнения: y''-2y'+5y=cos(7x)

y''-2y+5y=0

k^2-2k+5=0

уравнение имеет комплексные корни

k1=1+2i

k2=1-2i

Общее решение.(cм. в частности Пискунов Дифференциальное и интегральное исчисление т.2) Там же есть решение подобного уравнения

y=e^x(C1cos2x+C2sin2x)

y1=e^x*cos2x    y1'=e^x*cos2x-2*e^x*sin2x

y2=e^x*sin2x    y2'=e^xsin2x+2e^xcos2x

Решаешь систему

С1'y1+C2'y2=0

C1'y1'+C2'y2'=cos7x

находишь С1 и С2 как функции от x.

Cумма частного решения и ощеггорешения однородного уравнения и есть окончательный ответ.

Итак получается ответ

 y(x) = exp(x)*sin(2*x)*_C2+exp(x)*cos(2*x)*_C1-(11/533)*cos(7*x)-(7/1066)*sin(7*x)