При каком значении m векторы a=(3; 4) и b=(m2) являются перпендикулярными

В ответе правильно написано, действительно -8/3.
Чтобы они были перпендикулярными, должно выполняться равенство:

3*m + 4*2 = 0
3m + 8 = 0
3m = -8
m = -8/3