Реклама. ООО «ЛитРес», ИНН: 7719571260.
1. Условная мера количества информации (бит)
2. Информация по Шеннону (энтропия)
3. Количество информации при передаче сообщения
4. Примеры практического применения
a) Кодирование текста
b) Компрессия данных
c) Передача цифровых сигналов
Заключение
5.Решение задач и примеров
Задача №1: Кодирование текста
Задача №2: Сжатие данных (алгоритм Хаффмана)
Задача №3: Передача цифрового сигнала (теорема Шеннона-Хартли)
6.Пояснение получения кодов Хаффмана
7.Примеры решения школьных задач
Задача 1: Использование формулы Хартли
Задача 2: Cколько бит информации несёт один бросок шестигранного кубика?
Задача 3: Вычисление количества информации по вероятности
Задача 4: Информационный вес алфавита
Задача 5: Вычисление объема файла
Задача 6: Пропускная способность канала связи
Задача 7 – Достать туза из колоды
Задача 8 – Энтропия смещённой монеты
Задача 9 – Парольная энтропия
Задача 10. Какова энтропия распределения p= (0.5,0.25,0.25)?
Задача 11
Расчёт информационного объёма текста (при однобайтовой кодировке)
Задача 12. Расчёт объёма графической информации
Задача 13. Расчёт объёма аудиофайла
Задача 14. Расчёт мощности алфавита
Задача 15. Сравнение объёмов информации
Задача 16. Расчёт времени передачи данных
Задача 17. Расчёт количества информации при уменьшении неопределённости
Задача 18. Расчёт объёма текстового сообщения в Unicode
ЗАКЛЮЧЕНИЕ
Измерение информации – важная задача теории информации, поскольку позволяет количественно оценить объем передаваемых сообщений, количество информации, содержащейся в сообщении, и степень неопределенности ситуации.
Рассмотрим основные подходы измерения информации с подробными пояснениями и примерами.
.....
Предположим, что текст состоит из 50 латинских букв (ASCII) и 50 русских букв (кириллица).
– Латинские буквы (ASCII):
.....