Условие задачи
Канал связи описан канальной матрицей:
Определить:
Среднее количество информации, которое переносится одним символом сообщения, если вероятности появления символов источника сообщений равны:
p(x1)=0,6, p(x2)=0,3, p(x3)=0,1.
Чему равны информационные потери при передаче сообщения из 1000 символов алфавита x1, x2, x3?
Чему равно количество принятой информации?
Ответ
Энтропия источника сообщений:
Общая условная энтропия:
Для определения энтропии приемника находим вероятнос...