ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 12.02.2021
Просмотров: 151
Скачиваний: 1
Шенноновские
сообщения
Содержащаяся
в
сообщении
информация
может
существенно
зависеть
от
того
момента
времени
,
в
который
сообщение
достигает
приёмника
.
Задержка
такого
сообщения
одновременно
изменяет
его
характер
.
Примерами
могут
служить
лотерейный
билет
,
прогноз
погоды
и
штормовое
предупреждение
.
Предельным
является
случай
,
когда
вся
информация
,
которую
несёт
сообщение
,
определяется
временем
прибытия
(
заранее
обусловленного
)
сигнала
.
Тогда
говорят
об
извещении
или
тревоге
.
Примерами
служат
пожарный
сигнал
,
звон
колокола
,
бой
часов
или
сигнал
сирены
.
Существуют
,
однако
,
сообщения
,
информация
которых
не
зависит
от
времени
.
Такие
сообщения
часто
можно
рассматривать
как
последовательности
отдельных
сообщений
,
которые
посылаются
друг
за
другом
во
времени
:
в
момент
времени
t
0
-
первое
сообщение
,
в
момент
t
1
—
второе
и
т
.
д
.
Так
как
нас
не
интересует
дальнейшая
внутренняя
структура
отдельных
сообщений
,
мы
можем
считать
их
знаками
.
Эти
знаки
считаются
выбранными
с
некоторыми
не
зависящими
от
времени
вероятностями
из
заранее
заданного
конечного
или
бесконечного
набора
знаков
.
Здесь
нас
особо
интересует
случай
,
имеющий
место
,
например
,
при
бросании
кубика
,
когда
вероятность
встретить
некоторый
знак
Z
в
произвольный
момент
времени
t
совпадает
с
относительной
частотой
знака
Z
во
всей
последовательности
знаков
.
Последовательности
знаков
с
таким
свойством
называются
шенноновскими
сообщениями
,
а
порождающий
,
их
отправитель
-
источником
сообщений
или
шенноновским
источником
.
С
математической
точки
зрения
источник
сообщений
-
это
стационарный
случайный
процесс
.
Поскольку
сами
знаки
и
содержащаяся
в
них
информация
известны
заранее
,
существенный
момент
при
поступлении
некоторого
знака
состоит
в
самом
факте
,
какой
именно
из
заданных
знаков
получен
,
т
.
е
.
какой
из
знаков
был
„
выбран
".
Эти
„
выборы
"
исследуются
теорией
информации
Шеннона
.
К
.
Шеннон
в
1948
г
.
ввёл
в
связи
с
этим
математическое
понятие
количества
информации
.
Это
мера
тех
затрат
,
которые
необходимы
для
того
,
чтобы
расклассифицировать
(„
разобрать
")
переданные
знаки
.
Слово
„
информация
"
употребляется
здесь
,
очевидно
,
в
некотором
специальном
смысле
,
не
совпадающим
с
тем
,
в
котором
оно
использовалось
нами
ранее
.