X^2-13x+40/x^2-x-6< =0 < = это больше или равно

(x^2-13x+40)/(x^2-x-6)<=0

раскладываем квадратные уравнения

x^2-13x+40=(x-5)(x-8)

D=b^2-4ac

D=169 - 4*40 = 9

x12=(13+-3)/2 = 5  8

x^2-x-6=(x-3)(x+2)

D=1+4*6 = 25

x12=(1 +-5)/2 = 3  -2

(x-5)(x-8)/(x+2)(x-3) <=0

применяем метод интервалов

+++++++ (-2) ----------- (3) +++++++ [5] --------------[8] ++++++++++

x∈ ( - 2 ,3) U [5,  8]

============================================

это при написанном знаке, ну а если знак больше или равно то ответ x∈(-∞ -2) U (3 5] U [8 +∞)