Условие задачи
Сообщения дискретного источника X описываются матрицей:
Закодировать сообщения равномерным двоичным кодом и заданным эффективным кодом – кодом Хаффмена.
Определить:
1) избыточность на входе X и выходе Y кодеров;
2) среднюю длину кодовых слов для указанных способов кодирования и их границы;
3) сформулировать вывод по результатам расчётов по п.п. 1 и 2.
Ответ
Сначала кодируем сообщения кодом Хаффмена:
1. Сообщения источника ранжируются в порядке убывания вероятностей.
2. Группируются два сообщения и вычисляется их суммарная вероятность. При этом два сообщения объединяются в одно.
3. (N-1) сообщения ранжируются в порядке убывания вероятностей и повторяется циклически п.2. Процесс продолжается до тех пор, пока суммарная вероятность не станет равна единице. Результатом указанных процедур является двоичное кодовое дерево, ветви которого кодируются нулем и единицей, а кодовая последовательность каждого сообщения образуется в результате движения от основани...
