Файл: Лабораторная работа за 4 семестр По дисциплине "Теория информации, данные, знания".docx
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 29.10.2023
Просмотров: 662
Скачиваний: 35
ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.
САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ ТЕЛЕКОММУНИКАЦИЙ им. проф. М.А. Бонч-БруевичаФАКУЛЬТЕТ ВЕЧЕРНЕГО И ЗАОЧНОГО ОБУЧЕНИЯЛабораторная работа за _4_ семестрПо дисциплине “Теория информации, данные, знания”Вариант 4Фамилия: Сетова Имя: КристинаОтчество: Павловна Курс: 2Студ. Билет №: 2010534Группа №: ИБ-06cДата сдачи работы: Санкт-Петербург2022Формулировка заданияЗадача 1Источник сообщений выдает символы из алфавита A = {ai}, i = 1,…,4 свероятностями (см. таблицу 1) p1, p2, p3, p4. Найти энтропию и избыточностьисточника сообщений.Задача 2Рассмотрим следующий процесс: мы замеряем некоторую величину ξ,которая является количеством фотонов, которые регистрируютсяфоточувствительной пластиной. Пусть источник света в единицу временигенерирует N фотонов. Каждый фотон с вероятностью p1 может рассеяться начастицах среды, находящейся между источником и пластиной и не достичьфоточувствительной пластины. С вероятностью p2 фотон, достигшийфоточувствительной пластины, может быть зарегистрирован пластиной.Какое количество информации содержится в сообщении, чтозарегистрировано M фотонов?Задача 3Первичный алфавит состоит из трех знаков с вероятностями p1, p2, p.При этом p1 и p2 заданы в табл.1 и p1+p2+p=1. Для передачи по каналу безпомех используется равномерный двоичный код. Средняя длительностьпередачи одного элемента сообщения в канале τ=10-6с. Определитьпропускную способность канала и скорость передачи информации. Можноли приблизить скорость передачи к пропускной способности даннойсистемы?Задача 4Сколько информационных и проверочных символов содержится вдвоичном коде, исправляющем ровно t ошибок при общем числе
разрешенных кодовых комбинаций, равном N (см. таблицу 1).Задача 1Задание: Источник сообщений выдает символы из алфавита
с вероятностями: Найти энтропию и избыточность источника сообщений.Решение: Энтропия находится по следующей формуле:Подставим значения в формулу и получим значение энтропии:H(a) = -(0.6*log(0.7, 2) + 0.1*log(0.1,2) + 0.2*log(0.2,2) + 0.1*log(0.1,2)) = 1.4375151416528Теперь найти источник избыточности сообщений, она находится по формуле: где 
, а M в свою очередь – это количество различных символов в алфавите, в нашем случае их 4. Посчитаем избыточность источника:R= 1-( 1.4375151416528/2 = 0.7187575708264Ответ: энтропия источника равна 1.4375151416528, а избыточность равна 0.7187575708264.Задача 2Задание: рассмотрим следующий процесс: мы замеряем некоторую величину ξ, которая является количеством фотонов, которые регистрируются фоточувствительной пластиной. Пусть источник света в единицу времени генерирует 256 фотонов. Каждый фотон с вероятностью 
может рассеяться на частицах среды, находящейся между источником и пластиной и не достичь фоточувствительной пластины. С вероятностью 
фотон, достигший фоточувствительной пластины, может быть зарегистрирован пластиной. Какое количество информации содержится в сообщении, что зарегистрировано 
фотонов?
Решение: Чтобы найти количество информации в сообщении, используем формулу Хартли: где p – вероятность интересующего нас события. Для нахождения этой вероятности поделим интересующее нас количество исходов (8) на количество всех возможных (256). Подставим значения в формулу и получим ответ:I = log(1/(8/256), 2)Ответ: В сообщении, что зарегистрировано 8 фотонов из 256, содержится примерно 32 бит информации.Задача 3Задание: Первичный алфавит состоит из трех знаков с вероятностями p1 =0.6 p2 = 0.1 p. При этом
. Для передачи по каналу без помех используется равномерный двоичный код. Средняя длительность передачи одного элемента сообщения в канале 
с. Определить пропускную способность канала и скорость передачи информации. Можно ли приблизить скорость передачи к пропускной способности данной системы?Решение: Пропускная способность канала находится по следующей формуле: где m – вторичный алфавит (для двоичных сигналов 
), 
– длительность элементарного импульса в канале, которая находится по формуле: а T в свою очередь равняется 
. Таким образом получаем финальную формулу:Теперь найдём скорость передачи информации по формуле: где H – это энтропия. Так как τ уже известно, остается найти энтропию. Сделаем это:
Наконец получим скорость передачи информации:Ответ: пропускная способность канала равна 2*10-6 бит/с, а скорость передачи информации равна
.Задача 4Задание: Сколько информационных и проверочных символов содержится в двоичном коде, исправляющем ровно 
ошибок при общем числе разрешенных кодовых комбинаций, равном 
?Решение: так как число разрешенных кодовых комбинаций равняется 2k, где k число информационных символов, то получим 
. Далее найдем число проверочных символов. Количество проверочных символов находится по формуле: так как количество символов должно быть целым числом, необходимо r, полученное с помощью данного уравнения, округлить до ближайшего большего целого числа. При r=2 получим, что правая часть окажется меньше, чем левая, при r=3 получаем 2<3. Значит, число проверочных символов равно 2.Ответ: В коде содержится 4 информационных символа и 2 проверочных.ВыводВ данной лабораторной работе мною были выполнены задания по вычислению количества информации. Данные задачи важны для понимания искомой информации и вычисления ее из других значений. В дальнейшем данные навыки могут быть применены в более глобальных работах для ускорения процессов обработки данных и улучшению взаимодействия программных элементов с данными баз данных.
разрешенных кодовых комбинаций, равном N (см. таблицу 1).Задача 1Задание: Источник сообщений выдает символы из алфавита
с вероятностями: Найти энтропию и избыточность источника сообщений.Решение: Энтропия находится по следующей формуле:Подставим значения в формулу и получим значение энтропии:H(a) = -(0.6*log(0.7, 2) + 0.1*log(0.1,2) + 0.2*log(0.2,2) + 0.1*log(0.1,2)) = 1.4375151416528Теперь найти источник избыточности сообщений, она находится по формуле: где , а M в свою очередь – это количество различных символов в алфавите, в нашем случае их 4. Посчитаем избыточность источника:R= 1-( 1.4375151416528/2 = 0.7187575708264Ответ: энтропия источника равна 1.4375151416528, а избыточность равна 0.7187575708264.Задача 2Задание: рассмотрим следующий процесс: мы замеряем некоторую величину ξ, которая является количеством фотонов, которые регистрируются фоточувствительной пластиной. Пусть источник света в единицу времени генерирует 256 фотонов. Каждый фотон с вероятностью может рассеяться на частицах среды, находящейся между источником и пластиной и не достичь фоточувствительной пластины. С вероятностью фотон, достигший фоточувствительной пластины, может быть зарегистрирован пластиной. Какое количество информации содержится в сообщении, что зарегистрировано фотонов?
Решение: Чтобы найти количество информации в сообщении, используем формулу Хартли: где p – вероятность интересующего нас события. Для нахождения этой вероятности поделим интересующее нас количество исходов (8) на количество всех возможных (256). Подставим значения в формулу и получим ответ:I = log(1/(8/256), 2)Ответ: В сообщении, что зарегистрировано 8 фотонов из 256, содержится примерно 32 бит информации.Задача 3Задание: Первичный алфавит состоит из трех знаков с вероятностями p1 =0.6 p2 = 0.1 p. При этом
. Для передачи по каналу без помех используется равномерный двоичный код. Средняя длительность передачи одного элемента сообщения в канале с. Определить пропускную способность канала и скорость передачи информации. Можно ли приблизить скорость передачи к пропускной способности данной системы?Решение: Пропускная способность канала находится по следующей формуле: где m – вторичный алфавит (для двоичных сигналов ), – длительность элементарного импульса в канале, которая находится по формуле: а T в свою очередь равняется . Таким образом получаем финальную формулу:Теперь найдём скорость передачи информации по формуле: где H – это энтропия. Так как τ уже известно, остается найти энтропию. Сделаем это:
Наконец получим скорость передачи информации:Ответ: пропускная способность канала равна 2*10-6 бит/с, а скорость передачи информации равна
.Задача 4Задание: Сколько информационных и проверочных символов содержится в двоичном коде, исправляющем ровно ошибок при общем числе разрешенных кодовых комбинаций, равном ?Решение: так как число разрешенных кодовых комбинаций равняется 2k, где k число информационных символов, то получим . Далее найдем число проверочных символов. Количество проверочных символов находится по формуле: так как количество символов должно быть целым числом, необходимо r, полученное с помощью данного уравнения, округлить до ближайшего большего целого числа. При r=2 получим, что правая часть окажется меньше, чем левая, при r=3 получаем 2<3. Значит, число проверочных символов равно 2.Ответ: В коде содержится 4 информационных символа и 2 проверочных.ВыводВ данной лабораторной работе мною были выполнены задания по вычислению количества информации. Данные задачи важны для понимания искомой информации и вычисления ее из других значений. В дальнейшем данные навыки могут быть применены в более глобальных работах для ускорения процессов обработки данных и улучшению взаимодействия программных элементов с данными баз данных.