Условие:
Определить энтропию источника сообщений, передаваемых по каналу связи, и состоящих из равновероятных символов, если влияние помех в канале описывается матрицей:


Определить энтропию источника сообщений, передаваемых по каналу связи, и состоящих из равновероятных символов, если влияние помех в канале описывается матрицей:

Для равновероятных символов в сообщении энтропия источника сообщений равна:

где m число символов;
вероятноcть появления i-го символа в сообщении.