Видеоурок: Измерение информации.
Алфавитный подход к измерению информации
Каждый символ некоторого сообщения имеет определённый информационный вес – несёт фиксированное количество информации.
Все символы одного алфавита имеют один и тот же вес, зависящий от мощности алфавита.
Информационный вес символа двоичного алфавита принят за минимальную единицу измерения информации и называется 1 бит (bit)».
Информационный вес символа произвольного алфавита
• Алфавит любого языка можно заменить двоичным алфавитом.
• Для кодирования N символов произвольного алфавита требуется i-разрядный двоичный код
• Информационный вес символа = разрядность двоичного кода.
• Мощность алфавита и информационный вес символа алфавита: N=2i
Информационный объем сообщения
Информационный объём I сообщения равен произведению количества K символов в сообщении на информационный вес i символа алфавита:
I=K*i
К - Число символов в символьном сообщении
I - Количество информации в символьном сообщении
Задача 1
Алфавит племени Пульти содержит 8 символов. Каков информационный вес символа этого алфавита?
Решение: Составим краткую запись условия задачи.
N=8,
i – ?
Известно соотношение, связывающее величины
i и N: N = 2i.
С учетом исходных данных: 8 = 2i. Отсюда: i = 3.
Ответ: 3 бита.
Задача 2
Сообщение, записанное буквами 32-символьного алфавита, содержит 140 символов. Какое количество информации оно несёт?
Решение:
N = 32, I = K i, N = 2 i
K = 140
I – ?
32 = 2 i, i = 5, I = 140 5 = 700 (битов)
Ответ: 700 битов
Задача 3
Информационное сообщение объёмом 720 битов состоит из 180 символов. Какова мощность алфавита, с помощью которого записано это сообщение?
Решение.
I = 720; K = 180; N – ?
N = 2 i, I = K i, i = I/K
i = 720/180 = 4 (бита); N = 24 = 16 (символов)
Ответ: 16 символов.