Условие задачи
Определить энтропию источника сообщений, передаваемых по каналу связи, и состоящих из равновероятных символов, если влияние помех в канале описывается матрицей:
Ответ
Для равновероятных символов в сообщении энтропия источника сообщений равна:
где m число символов;
вероятноcть появления i-го символа в сообщении.