Остроугольным, прямоугольным или тупоугольным является треугольник со сторонами 3; 5; 7. заранее !

Т.косинусов...
важно определиться с бОльшим углом...
бОльшая сторона лежит против бОльшего угла...
cos(90) = 0
косинус (угла < 90 градусов) --- положителен... 
косинус (угла > 90 градусов) --- отрицателен...
7^2 = 3^2 + 5^2 - 2*3*5*cosx
cosx = (9+25-49) / 30 --- можно даже не вычислять...
cosx < 0 --- треугольник тупоугольный...