Условие задачи
Источник, вырабатывающий четыре символа с априорными вероятностями p1 = 0.4; p2 = 0.3; p3 = 0.2; p4 = 0.1, подключен к каналу передачи информации, обладающему пропускной способностью С = 1000 бит/с. Передача осуществляется равномерным двоичным кодом. С какой скоростью будет осуществляться передача информации при отсутствии помех?
Ответ
Находим энтропию источника:
Скорость передачи информации вычисляется по формуле: