Для хранения изображения размером 1024*768 точек выделено 768 кб памяти. определите, какое максимальное число цветов допустимо использовать в этом случае.

Все очень просто. 
Сначала мы находим сколько всего точек, ведь каждая точка - это какой то цвет: 1024*768(не умножаем т.к можно сократить). Дальше найдем, сколько занимает места 1 точка: 768*1024*8 /1024*768 бит (Умножили на 1024 и 8, чтобы перевести в биты). 768  и 1024 сокращается, получается 8 бит  Теперь формула    N(Кол. цветов) = 2^I(инф. обьем)  I известно, остается найти N т.е. = 256.