2cos^2 x - 3 кореньиз3 cos x + 3 < 0

В заданном уравнении 2cos^2 x - 3√3 cos x + 3 < 0 произведём замену: cos x = у.
Получаем неравенство:
2у² - 3√3у + 3 <0.
Графически - это часть параболы у = 2у² - 3√3у + 3, расположенная ниже оси х.
Находим граничные точки - точки пересечения параболы с оью х. То есть решаем квадратное уравнение:
2у² - 3√3у + 3 = 0.
Квадратное уравнение, решаем относительно y: 
Ищем дискриминант:D=(-3*2root3)^2-4*2*3=9*3-4*2*3=27-4*2*3=27-8*3=27-24=3;
Дискриминант больше 0, уравнение имеет 2 корня:y_1=(2root3-(-3*2root3))/(2*2)=(√3+3*2√3)/(2*2)=4*√3/(2*2)=4*√3/4=√3≈1.7321; (этот корень отбрасываем - больше 1);y_2=(-√3-(-3*√3))/(2*2)=(-√3+3*√3)/(2*2)=2*√3/(2*2)=2*√3/4=√3/2 ≈0.8660.
Обратная замена: cos x = √3/2.
Получили предельные значения х.
х = (-π/6)+2πk, k ∈ Z.
x = (π/6)+2πk, k ∈ Z. 

Тогда ответ: (-π/6)+2πk < x < (π/6)+2πk