Формула Шеннона

где Ii – количество информации, содержащееся в сообщении об i-ом исходе события,

Если количество информации I для N количества исходов некоторого события, то математическое ожидание (среднее) количества информации

Для частного случая, когда события равновероятны (pi = l/N), используется формула Хартли:

Вопросы по данной лекции:

1. Перечислите единицы измерения информации.

2. В чем заключается статистический подход к измерению информации?

3. В чем разница между стандартами ASCII, ANSI, Unicode?

4. Как производится переход от одной системы счисления к другой?

Литература по теме:

1. Жукова, Е.Л. Информатика. - 2-е изд. - М.: Дашков и К, 2010. - 272 с.

2. Информатика. Общий курс / Под ред. В.И. Колесникова. - 2-е изд. - М.: Дашков и К; Наука-Пресс, 2008. - 400 с.