Условие задачи
Задан источник сообщений , где
с вероятностями,
Найти количество информации, содержащейся в каждом из символов источника при их независимом выборе. Вычислить энтропию и избыточность заданного источника. Показать, что при равных объемах алфавитов , энтропия
имеет максимальное значение
при равновероятных символах.
Исходные данные:
Источник сообщений выдает символы из ансамбля
с вероятностями, представленными в таблице 1 в зависимости от последней цифры шифра.
Таблица 1.
Ответ
Количество информации , содержащееся в символе
, выбираемом из ансамбля
, где - объем алфавита, с вероятностью , причем