Провести кодирование по одной и блоками по две и по три букве, используя метод Шеннона – Фэно. Сравнить эффективности кодов. Энтропия трёхбуквенных сообщений:

Код Шеннона-Фано для однобуквенных сообщений.

Энтропия однобуквенных сообщений:

H(X) = (0,05 * log₂(0,05) + 0,15 * log₂(0,15) + 0,8 * log₂(0,8)) = 0,88

Средняя длина кодового слова: