A(1; -1; 0), b(2; 0; -1), c(3; 4; -2)
найти вектор, перпендикулярный вектором ab и bc и имеющий длину

Вектор, перпендикулярный векторам AB и BC, это нормальный вектор плоскости, в которой лежат векторы АВ и ВС.

По заданным трём точкам определяем уравнение плоскости.

Если нужно найти уравнение плоскости, проходящей через 3 точки  

A ( a x ; a y; az) , B ( bx;by;bz),C(cx;cy;cz), то можно воспользоваться формулой:

x - xA y - yA z - zA

xB - xA yB - yA zB - zA

xC - xA yC - yA zC - zA    = 0.

Подставим координаты точек и вычислим определитель.

Подставим данные и упростим выражение:

x - 1 y - (-1) z - 0

2 - 1 0 - (-1) (-1) - 0

3 - 1 4 - (-1) (-2) - 0        = 0

x - 1 y - (-1) z - 0

1 1 -1

2 5 -2      = 0

x - 1  1·(-2)-(-1)·5  -  y - (-1)  1·(-2)-(-1)·2  +  z - 0  1·5-1·2  = 0

3 x - 1  + 0 y - (-1)  + 3 z - 0  = 0

3x + 3z - 3 = 0.

Сократим на 3 и получим x + z - 1 = 0.

Нормальный вектор равен n(1; 0; 1).

Его модуль равен √(1² + 0² + 1²) = √2, что соответствует заданию.

ответ: вектор (1; 0; 1).