Рассчитать энтропию дискретного источника без памяти и количество информации, содержащееся в сообщении.
«Рассчитать энтропию дискретного источника без памяти и количество информации, содержащееся в сообщении.»
- Информатика
Условие:
Рассчитать энтропию дискретного источника без памяти и количество информации, содержащееся в сообщении.
Дан дискретный источник информации без памяти, генерирующий независимо друг от друга 4 различных символа: a, b, c, d. Вероятности появления этих символов: P(a) = 0,2, P(b) = 0,35, P(c) = 0,3, P(d) = 0,15.
Определить энтропию этого источника. Определить количество информации, содержащееся в сгенерированном данным источником сообщении dcdcba.
Решение:
Поскольку символы генерируются независимо, то энтропия источника составит:
Похожие задачи
Не нашел нужную задачу?
Воспользуйся поиском
AI помощники
Выбери предмет
S
А
Б
В
Г
И
К
М
П
- Правоохранительные органы
- Пожарная безопасность
- Парикмахерское искусство
- Природообустройство и водопользование
- Почвоведение
- Приборостроение и оптотехника
- Промышленный маркетинг и менеджмент
- Производственный маркетинг и менеджмент
- Процессы и аппараты
- Программирование
- Право и юриспруденция
- Психология
- Политология
- Педагогика
С
Т
- Трудовое право
- Теория государства и права (ТГП)
- Таможенное право
- Теория игр
- Теория вероятностей
- Теоретическая механика
- Теория управления
- Технология продовольственных продуктов и товаров
- Технологические машины и оборудование
- Теплоэнергетика и теплотехника
- Туризм
- Товароведение
- Таможенное дело
- Торговое дело
- Теория машин и механизмов
- Транспортные средства
Ф
Э