2. Формула Шеннона. Единицы измерения количества информации. Определение единиц измереия информации (бит, байт).

где I - количество информации; N - количество возможных событий; р_i - вероятность i-го события.

Система счисления - это знаковая система, в которой числа записываются по определенным правилам с по Римская непозиционная система счисления. Самой распространенной из непозиционных систем счисления является римская. В качестве цифр в ней используются: I (1), V (5), X (10), L (50), С (100), D (500), М (1000).

Величина числа в римской системе счисления определяется как сумма или разность цифр в числе. Если меньшая цифра стоит слева от большей, то она вычитается, если справа - прибавляется. Например, запись десятичного числа 1998 в римской системе счисления будет выглядеть следующим образом:

MCMXCVIII = 1000 + (1000 - 100) + (100 -10)+ 5 + 1 + 1 + 1.

Позиционные системы счисления. Первая позиционная система счисления была придумана еще в Древнем Вавилоне, причем вавилонская нумерация была шестидесятеричной, то есть в ней использовалось шестьдесят цифр.

В позиционных системах счисления количественное значение цифры зависит от ее позиции в числе.

Наиболее распространенными в настоящее время позиционными системами счисления являются десятичная, двоичная, восьмеричная и шестнадцатеричная. Каждая позиционная система имеет определенный алфавит цифр и основание.

В позиционных системах счисления основание системы равно количеству цифр (знаков в ее алфавите) и определяет, во сколько раз различаются значения одинаковых цифр, стоящих в соседних позициях числа.

• Для перевода двоичного числа в десятичное необходимо это число представить в виде суммы произведений степеней основания двоичной системы счисления на соответствующие цифры в разрядах двоичного числа. 

Например, требуется перевести двоичное число 10110110 в десятичное. В этом числе 8 цифр и 8 разрядов ( разряды считаются, начиная с нулевого, которому соответствует младший бит). В соответствии с уже известным нам правилом представим его в виде суммы степеней с основанием 2: 

10110110₂ = (1·2⁷)+(0·2⁶)+(1·2⁵)+(1·2⁴)+(0·2³)+(1·2²)+(1·2¹)+(0·2⁰) = 128+32+16+4+2 = 182₁₀

• Пример перевода из восьмеричной в десятичную систему счисления.

108.5₈ = 1*·8²+0·8¹+8·8⁰ + 5·8^-1 = 64+0+8+0.625 = 72.625₁₀

• Пример перевода из шестнадцатеричной в десятичную систему счисления.

108.5₁₆ = 1·16²+0·16¹+8·16⁰ + 5·16^-1 = 256+0+8+0.3125 = 264.3125₁₀

-----------------------------------