logo
417ПИ-Кривошеев / krivosheev

Теория информации

(задания раздела теория информации не разрешается для непрофильных студентов к замещению заданий по другим предметам решается - их цена мала или они вовсе не оцениваются...)

  1. Вычислить Энтропию

  2. построить блочный код длин 2, 3 и (по указанию преподавателя)4. вычислить основные характеристики. насколько улучшился код по сравнению с неблочным вариантом

  3. Вычислить Энтропию

  4. построить блочный код длины 2

  5. Вычислить Энтропию

  6. Для сложной системы (заданной матрицей 3х3) по определению вычислить

прямым подсчётом

    1. Энтропию

    2. Энтропию

    3. Энтропию

    4. Энтропию

    5. Энтропию

    6. В условиях той же задачи вычислить взаимную информацию (пропускную способность канала)

  1. Вычислить то же для

  2. Вычислить то же для

  3. известно распределение Какая информация содержится в сообщении

    1. Имеет место событие

    2. Имеет место событие

  4. Реализовать алгоритм Фано D=2 для распределения.

    2. Реализовать алгоритм Халфмана

  5. для распределения .D=3

    1. Реализовать алгоритм Фано

    2. Реализовать алгоритм Халфмана

  6. для распределения .D=2

    1. Реализовать алгоритм Фано

    2. Реализовать алгоритм Халфмана

  7. Определить энтропию цепи а) и б)

  8. Построить (для начала бинарный) код. Определить матожидание длины кода, сравнить данное значение с теоретическим пределом - с энтропией распределения.

Теория по "Теории информации".

Энтропия распределения

Энтропия сложной системы - совместного распределения двух величин

Условная энтропия

или

Формулы для условной вероятности

Р(АВ) = Р(А) Р= Р(В) Р

Переход от одной условной вероятности к другой можно

Р=

Доп.раздел

Вопросы по линейной алгебре

  1. (0,4)Решить систему линейных уравнений методом Гаусса ,

  2. (0,4 с проверкой) Методом Гаусса обратить матрицу , основываясь на этом решить две системыи, результат проверить подстановкой.

  3. Посчитать определитель (объём) методом Гаусса

    1. (0,33задачи), б)(0,25 задачи)

  4. Решить модель Леонтьева (найти матрицу перевода вектора конечного вектор выпуска и) с матрицей затрат и вектором конечного потребленя, найти вектор выпуска. Предполагается, что все числаabcdвзяты в стандартном представлении. Для обращения матриц использовать а) ряд, аналогичный ряду геометрической прогрессии б) стандартный метод Гаусса.