Условие задачи
Известна канальная матрица P(Y|X), задающая условные вероятности приема символов y при передаче символов x при наличии помех в канале связи. Известны безусловные вероятности P(X) генерации источником информации символов x передаваемого сообщения.
Подсчитать энтропию источника/ приемника по известной канальной матрице
P(x1) = 0,25, P(x2) = 0,5, P(x3) = 0,25
Определить энтропию приемника.
Ответ
Найдем вероятности появления символов в приемнике по формуле: