Корень большой из 23+3х-5х в квадрате = 3

Возводишь в квадрат и получится обе части
23+3x+5x=9
8x=32
x=4

Мне кажется вы выражение не так написали, где-то икс должен быть в квадрате, если я прав то все точно так же делается, только в конце по Виетте решается