1. Главная
  2. Библиотека
  3. Теория вероятностей
  4. Даны вероятности появления символов в первичном алфавит...
Решение задачи на тему

Даны вероятности появления символов в первичном алфавите: - Символ 1: 0,3 - Символ 2: 0,2 - Символ 3: 0,1 - Символ 4: 0,1 - Символ 5: 0,05 - Символ 6: 0,03 - Символ 7: 0,03 - Символ 8: 0,03 - Символ 9: 0,03 - Символ 10: 0,03 - Символ 11: 0,02 - Символ 12:

  • Теория вероятностей
  • #Теория случайных величин
  • #Теория информации
Даны вероятности появления символов в первичном алфавите:
- Символ 1: 0,3
- Символ 2: 0,2
- Символ 3: 0,1
- Символ 4: 0,1
- Символ 5: 0,05
- Символ 6: 0,03
- Символ 7: 0,03
- Символ 8: 0,03
- Символ 9: 0,03
- Символ 10: 0,03
- Символ 11: 0,02
- Символ 12:

Условие:

буква - 1 вероятность - 0,3;буква - 2 вероятность - 0,2;буква - 3 вероятность - 0,1;буква - 4 вероятность - 0,1;буква - 5 вероятность - 0,05;буква - 6 вероятность - 0,03;буква - 7 вероятность - 0,03;буква - 8 вероятность - 0,03;буква - 9 вероятность - 0,03;буква - 10 вероятность - 0,03;буква - 11 вероятность - 0,02;буква - 12 вероятность - 0,02;буква - 13 вероятность - 0,01;буква - 14 вероятность - 0,01;буква - 15 вероятность - 0,01;буква - 16 вероятность - 0,01;буква - 17 вероятность - 0,01;буква - 18 вероятность - 0,01;
Подсчитать количество информации на один символ первичного алфавита

Решение:

Нам дана таблица символов с вероятностями появления:

1 – 0,3
2 – 0,2
3 – 0,1
4 – 0,1
5 – 0,05
6 – 0,03
7 – 0,03
8 – 0,03
9 – 0,03
10 – 0,03
11 – 0,02
12 – 0,02
13 – 0,01
14 – 0,01
15 – 0,01
16 – 0,01
17 – 0,01
18 – 0,01

Шаг 1. Используем формулу Шеннона для количества информации (энтропия) на символ:

H = –Σ p(i) · log2 p(i)

Шаг 2. Вычисляем значение –p(i)·log₂p(i) для каждого символа.

Для символа 1 с вероятностью 0,3:
  log₂(0,3) ≈ –1,737
  Вклад: 0,3 · 1,737 ≈ 0,521 бит

Для символа 2 с вероятностью 0,2:
  log₂(0,2) ≈ –2,322
  Вклад: 0,...

Не нашел нужную задачу?

Воспользуйся поиском

Выбери предмет