Классификация мер информации.

Для измерения качества информации вводятся 2понятия: количество информации и объём данных. Каждой форме адекватности соответствует своё количество информации и свой объём данных.

Синтетическая мера информации – мера, количество информации оперирует обезличенной информацией, объём данных в этом случае измеряется количество символов в сообщении.

В двоичной системе: В десятичной системе:

8бит=1байт 1дит

01010100=8бит 3567=4дит

Количество информации невозможно определить без рассмотрения понятия, неопределённого состояния системы (энтропия системы).

H(L)---B---HB(L)

IB(L)=H(L)-HB(L)

Количество информации измеряется изменением (уменьшением) неопределённого состояния системы.

Энтропия системы H(L) имеющая N возможных состояний по формуле Шенона.

Pi-вероятность того, что система находится в i-ом состоянии.

Все состояния системы равновероятны.