Найти угол между векторами a и b если a=2, b=3 и (a+2b)(a-b)=-17

Раскроем скобки и получим a^2+2ab-ab-2b^2=a^2+ab-2b^2
Подставим известные значения и формулу скалярного произведения векторов
Получим
4-2*3*cos a-18=-17
4-6 cos a=1
Cos a=1/2
A=Pi/3