Файл: История развития теории информации как науки. Цель работы.pptx
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 23.11.2023
Просмотров: 57
Скачиваний: 2
ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.
История развития теории информации как науки.
Цель работы
Изучить развитие теории информации как науки.
Задачи исследования.
- Дать определение «теории информации» как науки
- Узнать, что изучает теория информации
- Рассмотреть крупнейшие вклады ученых в развитие теории информации
- Как повлияло развитие теории информации на современные технологии
Теория информации как наука
Теория информации — раздел прикладной математики, радиотехники (теория обработки сигналов) и информатики, относящийся к измерению количества информации, её свойств и устанавливающий предельные соотношения для систем передачи данныхЧто изучает теория информации
Теория информации изучает сжатие данных, канальное кодирование, алгоритмическую теорию сложности, алгоритмическую теорию информации, информационно-теоретическую безопасность, измерение информации.
Крупнейшие вклады ученых в развитие теории информации
- Ральф Хартли
Ввёл понятие «информации» (энтропии) как случайной переменной и был первым, кто попытался определить «меру информации», Ральф Хартли предложил использовать логарифмическую меру информации в 1928 году
Где N — количество символов в используемом алфавите (мощность алфавита), K — длина сообщения (количество символов в сообщении), I — количество информации в сообщении
Клод Элвуд Шеннон
- Клод Элвуд Шеннон
Ввёл понятие информационной энтропии
определил бит как количество полученной информации
Теорема Шеннона-Хартли
Дэвид Хаффман
- Дэвид Хаффман Создал алгоритм префиксного кодирования с минимальной избыточностью (известный как алгоритм или код Хаффмана), заключающегося в принятии локально оптимальных решений на каждом этапе, допуская, что конечное решение также окажется оптимальным.
Последовательное суммирование единиц с наименьшим информационным весом и объединение значений в дерево (дерево Хаффмана)
- Ирвинг Стой Рид, Дэвид Юджин Мюллер и Гюстав Соломон
Коды Рида–Мюллера - это коды с исправлением ошибок, которые используются в приложениях беспроводной связи, в частности, в дальней космической связи
Коды Рида-Соломона 1960 - Позволяют восстановить информацию с поврежденных носителей либо передать информацию в условиях связи с большим количеством помех.
Код Слепиана-Вольфа
- Код Слепиана-Вольфа
Это кодирование двух или более зависимых источников с помощью отдельных кодеров и совместного декодера
Готфрид Унгербёк
- Готфрид Унгербёк Изобрел треллис-модуляцию. Совместные кодирование и модуляция, улучшающая спектральную эффективность сигнала по сравнению с раздельными методами. Повышает помехоустойчивость за счет добавления трелис-бита. Декодер Витерби используется для анализа поступающих последовательностей битов.
- Авраам Лемпель, Яаков Зив и Терри Велч Разработали алгоритм Алгоритмы LZW. Это универсальный алгоритм сжатия данных без потерь. Процесс сжатия выглядит следующим образом. Последовательно считываются символы входного потока и происходит проверка, существует ли в созданной таблице строк такая строка. Если такая строка существует, считывается следующий символ, а если строка не существует, в поток заносится код для предыдущей найденной строки, строка заносится в таблицу, а поиск начинается снова.
- Software Enhancement Associates и Фил Кац
Создание ZIP формата сжатия DEFLATE. Алгоритм сжатия без потерь, использующий комбинацию алгоритмов Авраама Лемпеля, Яакова Зива и Терри Велча и Хаффмана.
- Клод Берру, Алэйн Главиукс и Пунья Титимаджшима Разработали турбо-коды. Турбо-коды - это параллельные блоковые каскадные коды, способные исправлять ошибки. Особенностью турбо-кодов является параллельная структура, состоящая из рекурсивных систематических сверточных кодов, работающих параллельно и использующих создание случайной версии сообщения. Турбо-коды были разработаны в 1993 году и являются классом высокоэффективных помехоустойчивых кодов с коррекцией ошибок, используются в электротехнике и цифровой связи, а также нашли своё применение в спутниковой связи и в других областях, в которых необходимо достижение максимальной скорости передачи данных по каналу связи с шумами в ограниченной полосе частот.
Бенджамин "Бен" Шумахер
- Бенджамин "Бен" Шумахер Первый использовал понятие «кубит» - наименьшая единица информации в квантовом компьютере (аналог бита в обычном компьютере), использующаяся для квантовых вычислений. это специальные квантовые объекты, настолько маленькие, что уже подчиняются законам квантового мира. Их главное свойство — они способны находиться одновременно в 2 состояниях, то есть в особом состоянии — суперпозиции.
Амин Шокроллахи
- Амин Шокроллахи Изобрел коды Raptor. Коды Raptor являются первым известным классом fountain кодов с линейным кодированием и декодированием по времени. требует всего лишь передать всего 0.2% дополнительных пакетов для успешного декодирования с вероятностью 0.999999. При этом вероятность успешного декодирования стремительно приближается к единице с каждым дополнительным пакетом.
Роберт Грей Галлагер
- Роберт Грей Галлагер Изобрел LDPC-код (Код с малой плотностью проверок на чётность). Используемый в передаче информации код, частный случай блочного линейного кода с проверкой чётности. Особенностью является малая плотность значимых элементов проверочной матрицы, за счёт чего достигается относительная простота реализации средств кодирования.
- В первую очередь это появление новых стандартов связи: беспроводных 5G, Wi-Fi 6, спутниковых систем; проводных оптоволоконных соединений.
- Уменьшение стоимости и увеличение доступности средств хранения информации: диски, флеш-накопители, жесткие и SSD диски
- Также развитие теории информации сильно повлияло на военные и государственные технологии в связи с увеличением надежности передачи различной информации
- Бизнес, образование, и другие – все эти сферы используют плоды теории информации
Список использованных источников
- Галлагер Р. «Теория информации и надёжная связь» – М.: «Советское радио», 1974. 720с.
- Сэломон Д. «Сжатие данных, изображений и звука» – М.: «Техносфера», 2004 368 с.
- Shokrollahi, Amin, "Raptor Codes," IEEE Transactions on Information Theory, vol. 52, pp. 2551-2567, 2006
- Акритас А. Основы компьютерной алгебры с приложениями: Пер. с англ. — М., Мир, 1994. — 544 с.
- М. Вернер Основы кодирования. Учебник для ВУЗов. Москва: Техносфера, 2004. - 288с
- Хромов Л. И. Теория информации и теория познания. – 2-е изд., доп. − Спб., Изд. Русского философского общества, 2021. – 310 с.
- Вольфовиц Дж. Теоремы кодирования теории информации. М.: Мир,1967.
- Шеннон К. Работы по теории информации и кибернетике. М.: ИЛ, 1962
- Винер Н. Кибернетика, или управление и связь в животном и машине. М.: «Советское радио», 1968.
- Эшби У.Р. Введение в кибернетику М.: Иностранная литература, 1959. - 432 с