Проверяю функцию на выпуклость. Производная второй степени (f'') =0, корней нет. Что это значит?

Если Вы имеете в виду вторую производную, которая не имеет корней, то она, очевидно, либо больше нуля, либо меньше. А если бы при переходе через корень вторая производная менлат знак, все равно с какого на какой, т.е. либо с плюса на минус, либо с минуса на плюс, то этот корень являлся бы точкой перегиба. Поскольку Вам нужно исследовать функцию на вогнутость и выпуклость, то корня может и не быть, определите знак  этой производной, но обязательно ... НЕ игнорируйте область определения. Сложно сказать о функции, только по Вашим описаниям. Почему не покажете ее во всей красе?))