Определить энтропию сообщения из пяти букв, если общее число букв в алфавите равно 64 и все сообщения равновероятны. (если можно, то с полным решением)
Общее число пятибуквенных сообщений для алфавита из 64 символов: N = 64^5 =(2^6)^5=2^(30) Энтропия для равновероятностных сообщений по формуле Хартли: Н=log(2) 2^30 =30 бит
N = 64^5 =(2^6)^5=2^(30)
Энтропия для равновероятностных сообщений по формуле Хартли:
Н=log(2) 2^30 =30 бит