Рассматривается постоянный источник X с вероятностями букв. Построить коды Хаффмана, Шеннона и Гилберта-Мура для отдельных букв алфавита X, сравнить скорости кодов, а также энтропию источника.

Вычисляем энтропию источника:

1. Код Хаффмана

Построение дерева начинаем со списка листьев (буквы сортируем по не возрастанию вероятностей):

На первом шаге из листьев дерева выбираются два с наименьшим в...