Условие:
Провести кодирование по одной и блоками по две и по три букве, используя метод Шеннона – Фэно. Сравнить эффективности кодов.
Решение:
Код Шеннона-Фано для однобуквенных сообщений.
Энтропия однобуквенных сообщений:
H(X) = (0,05 * log2(0,05) + 0,15 * log2(0,15) + 0,8 * log2(0,8)) = 0,88
Средняя длина кодового слова: