Условие задачи
Дискретный источник сообщений выдает сообщения из ансамбля {Xj}, где j = 1, 2, …, N с вероятностями, приведенными в таблице 1.
Таблица 1 – Вероятности сообщений дискретного источника
Закодировать данные сообщения кодом Шеннона-Фано и Хаффмана. Для каждого кода определить среднюю длину кодовой комбинации, среднее количество информации, содержащееся в одном элементе кода и избыточность кода. При определении минимальной длины кодовой комбинации следует воспользоваться приближенной формулой.
На основании полученных результатов сформулировать вывод, какой код является более эффективным.
Ответ
1. Код Шеннона-Фано.
Таблица 2, иллюстрирующая процесс построения кода, приведена ниже:
Таблица 2 Кодирование методом Шеннона-Фано
Определение энтропии источника:
Определение средней длины кодовой комбин...
