Почему в полиграфии не используется модель RGB?

Потому что нанесенная на бумагу краска поглощает часть палитры, составляющей белый цвет, а другую часть отражает. Таким образом, нужньй цвет на бумаге получают путем «вычитания» из белого "ненужных красок"