Министерство образования Республики Беларусь
Учреждение образования

БЕЛОРУССКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

ИНФОРМАТИКИ И РАДИОЭЛЕКТРОНИКИ

Факультет компьютерных технологий

Кафедра программного обеспечения информационных технологий

Дисциплина: Теория информации
Контрольная работа


Контрольное задание № 1

1. Вычислить количество информации выдаваемой источником, если размерность алфавита X={x₁, x₂, …, x₆} равна m=6. Вероятность появления события

p₁=0,05; p₂=0,15; p₃=0,05; p₄=0,4; p₅=0,2; p₆=0,15.

Решение:

Количество информации, содержащейся в каждом из символов источника при их независимом выборе:















Значение количества информации:




2. Источник формирует следующие символы

.

Вероятности символов задаются множеством:

.

Вычислить энтропию дискретного источника.

Решение:

Энтропия источника информации – это средняя информация, полученная для всех возможных событий. Энтропия дискретного источника без памяти с символами алфавита X={x₁, x₂, …, x_m} и соответствующими вероятностями p₁, p₂, …, p_m равна





бит/символ
3. Используются следующие кодовые слова длиной

---

равномерного кода

;

;

;

.

.

Удовлетворяет ли код неравенству Крафта?

Решение:

Для построения однозначно декодируемого q-ичного кода, содержащего m кодовых слов с длинами n₁, n₂, …, n_m необходимо и достаточно, чтобы выполнялось неравенство Крафта



где q обозначает число символов кодового алфавита.

n₁=n₂=n₃=n₄=n₅=n=3



Неравенство Крафта выполняется, значит данный код однозначно декодируемый.
4. Пусть используется префиксный код со словами:

;

;

;

;



Вероятности символов источника характеризуются множеством

.

Вычислить среднюю длину кодового слова.

Решение:

Мерой эффективности кода является его средняя длина кодовых слов



где m – число символов источника с n-кратным расширением источника одиночных символов, P₁, P₂, …, P_m– вероятности символов источника с n-кратным расширением, l₁, l₂, …, l_m – длина соответствующих кодовых слов.

Для построения этого кода использовались символы двоичного источника X={0,1}.

Код имеет среднюю длину:


5. Источник формирует символы X={x

---

₁; x₂} с вероятностями

.. Имеется блоковый источник с трехкратным расширением X³={c₁, c₂, c₃, c₄, c₅, c₆, c₇, c₈,}. Для кодирования блокового источника применяется префиксный код:

c₁→(1);

c₂→(011);

c₃→(010);

c₄→(001);

c₅→(00011);

c₆→(00010);

c₇→(00001);

c₈→(00000);

5.1. Вычислить энтропию источника.

5.2. Вычислить энтропию блокового источника.

5.3. Вычислить среднюю длину слова декодируемого кода.

5.4. Вычислить среднюю длину слова на один символ источника X.

Решение:

Энтропия источника одиночных символов равна

бит/символ

Вычисляем вероятности появления символов источника X³.

















Энтропия блокового источника равна:





бит/символ

Средняя длина слова декодируемого кода.:



Средняя длина слова на один символ источника X:


6. Показать, что группа ???? = < {0,1, 2, 3, 4, 5}; +; 0> содержит подгруппы порядков: 1, 2, 3 и 6.

Решение:

Если g — элемент группы G такой, что gⁿ = 1 для некоторого n, и р — наименьшее положительное целое число такое, что g^p = 1, тогда множество {g, g²,..., g^p} является подгруппой группы G.

g¹=g

g²= g²

g³= g³

g⁶=1

Cледовательно, множество {g, g²,..., g⁶} является подгруппой группы G.
7. Найти расстояния Хэммингавекторов:

---

,



Решение:

Расстоянием Хемминга между двумя кодовыми словами называется количество отличных бит на соответствующих позициях

4

5
8. Построить порождающую ???? и проверочную матрицу линейного группового кода с проверкой на четность с параметрами [????; ????‒1; 2], ???? =3.

Решение:

Порождающая матрица:



Проверочная матрица:

.

k = 3 – кол-во информационных символов, r = 2 – кол-во проверочных символов в кодовом слове, n = 5 – длина кодового слова.
9. Показать построение и реализацию принципиальной схемы кодера, используя проверочную Н матрицу.
Основными функциями кодера являются:

1) преобразование входной информации Q(х) из последовательного кода в параллельный код;

2) формирование проверочных символов;

3) формирование кодовой последовательности F(х) путем последовательного объединения “k” информационных символов и l = n-k проверочных символов в единый кодовый поток.

Для реализации данных функций в кодере необходимы следующие функциональные блоки:

КРИ – 1/ k (КРИ – 1/3) – коммутатор распределения входной информации на “ k ” (k = 3) подпотоков;

ФПСк – формирователь проверочных символов кодера;

КОИ – n/1 (КОИ – 5/1) –коммутатор объединения информации “n” (n =5) параллельных подпотоков в единый поток;

ФСУк – формирователь сигналов управления КРИ – 1/3 и КОИ – 5/1 кодера.

В соответствии с этим обобщенная структурная схема кодера будет иметь следующее построение (рис.1)



Рисунок 1 – Обобщенная структурная схема кодера
В кодере, в соответствии с проверочной матрицей, ФПСк формирует проверочные символы b1b2, которые поступают на соответствующие входы КОИ – 5/1 и далее передается вслед за информационными символами в канал связи, образуя тем самым кодовую последовательность F(x).
10. Используйте метод синдромного декодирования линейного группового кода (п.8) для контроля над ошибками

---

, если получены слова у₁=0101, у₂=1011.
Решение:

⇒ кодовое слово принято без ошибок.

⇒ кодовое слово принято без ошибок.
11. Показать построение и реализацию принципиальной схемы синдромного декодера, используя проверочную Н матрицу (п.8).

Решение:

Основными функциями декодера являются:

1) преобразование кодовой последовательности F'(х) из последовательного кода в параллельный код;

2) формирование проверочных символов (b₁',b₂',b₃') из принятых информационных символов a₁'… a₄' в соответствии с проверочной матрицей;

3) формирование символов синдромной последовательности (синдрома) S₁… S₄;

4) дешифрация (анализ) синдрома и принятие решения о достоверности принятых информационных символов;

5) преобразование информационных символов из параллельного кода в последовательный код и выдача информационного блока символов θ (х) получателю. Для реализации данных функций в декодере необходимы следующие функциональные блоки:

КРИ – 1/n (КРИ - 1/5) – коммутатор распределения информации на n (n=5) параллельных подпотоков;

КОИ - k /1 (КОИ – 3/1) – коммутатор объединения информации к (к=3) параллельных подпотоков в последовательный поток;

ФПСд – формирователь проверочных символов декодера;

ФСС – формирователь синдромных символов;

АС – анализатор (дешифратор) синдрома;

ФСУд – формирователь сигналов управления (КРИ - 1/5) и (КОИ – 3/1) декодера.

В соответствии с этим обобщенная структурная схема декодера, реализующего синдромный алгоритм декодирования, будет иметь следующее построение (рис.2).



Рисунок 1 – Обобщенная структурная схема декодера
Декодер работает следующим образом. Входные символы принятой кодовой последовательности F′(x) в КРИ –1/5 распределяется на пять параллельных подпотоков. Информационные символы a₁'… a₃' одновременно поступают на соответствующие входы КО и ФПСд. ФПСд формирует проверочные символы b₁… b₂ из принятых информационных символов в соответствии с проверочной матрицей. Сформированные проверочные символы поступают на соответствующие входы ФСС, на другие входы которого поступают принятые проверочные символы b

---

Смотрите также файлы

• Проекта Приёмы речевого воздействия в газетных заголовках и рекламе.doc

• Проблема войны и мира.ppt

• Периодическая система.docx

• Я, Зюбан Анна Игоревна, студентка нспк.docx

• 1. Системой счисления называется способ представления чисел посредством цифровых знаков.doc