Почему в 19-м веке радикальные учения находили все большее отклик в обществе утопические учение оказались не несостоятельными

Потому что утопия не осуществима. Об этом говорит само слово.
Так что утопия и антиутопия - теперь жанры художественной литературы.
А люди хотят чего-то осуществимого. Поэтому и обращаются к радикальным теориям, вроде марксизма.