ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 03.12.2023
Просмотров: 312
Скачиваний: 7
ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.
99
Ошибки в канале уменьшают среднее количество передаваемой информа- ции. В примере, вместо одного бита достоверно получено 0,98 бита.
Известна другая форма записи пропускной способности ДСК.
Определение 5.8. Пропускная способность двоичного симметричного ка- нала с вероятностью ошибки???? равна
???? = ????[1 + ????
????
log
2
????
????
+ (1 − ????
????
) log
2
(1 − ????
????
)] бит с
⁄ , где ????
тактовая частота следования информационных символов,
(???? = 1/
,
длительность символа).
При отсутствии помех
???? = 0 и пропускная способность ДСК достигает мак- симума
????
max
= ???? бит с
⁄ .
5.7. Дифференциальная энтропия
Понятие дифференциальной энтропии вводится для непрерывных источ- ников информации. Выходом такого источника является непрерывный (аналого- вый) сигнал ????(????) – случайная функция от времени ????. Для непрерывных представ- лений энтропии, вместо вероятностей символов источников рассматриваются функции распределения плотностей переменных непрерывного источника. Вве- дение функций распределения позволяет определять понятие энтропии и услов- ной энтропии для непрерывных источников.
Определение 5.9. Дифференциальная энтропия – это среднее количество информации непрерывного источника, которое определяется как
????(????) = − ∫ ????(????) log
2
????(????)???????? ,
∞
−∞
где ????(????) – функция распределения вероятности случайного процесса непрерыв- ного источника.
Основываясь на общих понятиях о дифференциальной энтропии можно утверждать, что энтропийное представление, описывающие дискретные источ- ники без памяти и каналы, справедливо и для непрерывных источников и каналов.
5.8. Пропускная способность непрерывного канала
Качество системы передачи информации характеризуется вероятностью ошибки на бит (частотой ошибок на бит). При передаче сигналов по каналу с аддитивным гауссовским шумом вероятность ошибки на бит может быть умень- шена путем увеличения мощности передатчика, которая также является одной из
100 характеристик качества системы. Лучшей из двух систем передачи данных счи- тается та, которая достигает желаемой частоты ошибок на бит при меньшей мощ- ности передатчика.
Основными характеристиками любого сигнала являются энергия и мощ- ность. Сообщение из k информационных бит имеет энергию
????
????
= ∑
|????(????)|
2
????−1
????=0
и мощность
????
????
=
1
????
∑
|????(????)|
2
????−1
????=0
, которые могут интерпретироваться как энергия и мощность ступенчатых огиба- ющих дискретных сигналов (их континуальных аналогов).
Обозначим ???? длительность элементарного дискрета последовательности
(сигнала) ????(????). Если ???? определяет дискретный период информационного сиг- нала, то период сигнала по времени равен
???? = ????????.
В общем случае для континуальных сигналов связь между энергией и мощ- ностью выражается как
????
????
= ????
????
???? = ????
????
????????.
Энергия сигнала, соответствующая одному информационному биту, опре- деляется соотношением
????
????
=
????
????
????
=
1
????
∑
|????(????)|
2
????−1
????=0
=
????
????
????????
????
= ????
????
???? =
????
????
????
????
, (5.33) где ????
????
[
бит с
] – скорость информационных бит (скорость потока двоичных симво- лов (чипов)).
Замечание. Проверочные символы, символы синхронизации (например, начала кодового слова, строчные, кадровые или символы канального обмена и др.) не несут информации и поэтому не могут участвовать в вычислении ????
????
На вход приемника поступает также и белый шум с односторонней спек- тральной плотностью ????
0
Вт/Гц. Очевидно, что на частоту ошибок на бит влияет только отношение
????
????
????
0
. Сравнительные качественные характеристики различных способов передачи сигналов можно получить, оценивая зависимости их вероят- ностей ошибок на бит от отношения
????
????
????
0
. Нижняя, теоретически достижимая в си- стеме передачи информации, граница
????
????
????
0
(абсолютное значение) определяется из формулы пропускной способности непрерывного канала.
101
1 ... 5 6 7 8 9 10 11 12 ... 17
Теорема 5.2. Пропускная способность (Хартли – Шеннона) идеального ка- нала равна
???? = ???? log
2
(1 + ????
????
????
????
⁄
),(5.34) где ????
????
= ????
0
???? – средняя мощность помех с нормальным законом распределения амплитуд и равномерным спектром в полосе частот канала шириной ???? Гц.
5.8.1. Граница Шеннона
Используя (5.33), ????
????
= ????
????
????
????
. Запишем (5.34) по другому
???? = ???? log
2
(1 + ????
????
????
????
????
0
⁄
????),
????
????
= log
2
(1 + ????
????
????
????
????
0
⁄
????).
С учетом теоретического предела стремления скорости ????
????
к пропускной способности ????, последнее выражение можно записать как
????
????
????
< log
2
(1 + ????
????
????
????
????
0
⁄
????),
2
????????
????
< 1 + ????
????
????
????
????
0
⁄
????,
2
????????
????
− 1 < ????
????
????
????
????
0
⁄
????.
Из последнего выражения находим связь отношения энергии, приходя- щейся на один информационный бит к спектральной плотности шума и дости- жимой величины скорости ????
????
????
????
????
0
>
2
????????
????
−1
????????
????
Определим границу абсолютного значения отношения
????
????
????
0
. Ширина полосы частот сигнала в формуле (5.34) не ограничена. Устремим ???? к бесконечности и найдем предельное значение пропускной способности канала ????
∞
????
∞
= lim
????→∞
???? = lim
????→∞
???? log
2
(1 +
????
????
????
0
????
).
Обозначим величину
1
????
символом
γ, тогда можно записать
????
∞
= lim
γ→0
???? = lim
γ→0 1
γ
log
2
(1 +
????
????
????
0
γ). (5.35)
102
Функция (5.35) в точке γ = 0, принимая вид 0/0, не определена. Для рас- крытия неопределенности и вычисления предела воспользуемся правилом Лопи- таля. Продифференцируем числитель и знаменатель (5.35) по (1 +
????
????
????
0
γ).
????
∞
= lim
γ→0
log
2
(1+
????????
????0
γ)
′
γ
′
. (5.36)
Дифференцирование числителя (5.36) приводит к выражению log
2
(????)
′
= log
2
????.
Дифференцирование знаменателя приводит к выражению
????γ
????(1+
????????
????0
γ)
=
????
0
????
????
Формулу (5.36) можно записать как
????
∞
= lim
????→∞
???? =
????
????
????
0
log
2
???? = 1,443
????
????
????
0
. (5.37)
Выражения (5.34) и (5.37) определяют границу Шеннона. Подставив в по- следнее выражение значение мощности информационных бит ????
????
????
????
= ????
????
, получим граничное значение
????
????
????
0
для максимальной скорости передачи информа- ции ????
????
⟹ ????
∞
????
????
≤ 1,443
????
????
????
0
= 1,443????
????
????
????
????
????
????
0
,
1 ≤ 1,443
????
????
????
0
,
0,69 ≅
1 1,443
≤
????
????
????
0
Замечание. Нужно иметь в виду, что выражение пропускной способности
Шеннона справедливо только тогда, когда передаваемый сигнал образовывает аддитивную смесь с белым шумом. Кроме того, по своим статистическим свой- ствам сигнал подобен нормальному стационарному шуму с заданной средней мощностью и равномерной спектральной плотностью внутри полосы частот ????.
Теорема 5.3. В системе, передающей информацию в условиях белого гаус- совского шума с односторонней спектральной плотностью ????
0
необходимо, чтобы энергия на бит удовлетворяла следующим неравенствам:
103
????
????
≥ 0,69????
0
,
????
????
????
0
≥ 0,69 ⟹ −1,6 дБ. (5.38)
Напомним, отношение
????
????
????
0
, выраженное в дБ, определяется как 10log
10
????
????
????
0
Вывод. Для передачи одного информационного бита необходимо, чтобы отношение энергии на бит ????
????
к спектральной плотности мощности шума
????
0
было, как минимум 0,69.
Формула (5.38) приводит к очень важному практическому выводу. Для случая малого отношения (
сигнал шум
)
????
????
????
????
=
????
????
????
????
????
0
????
≪ 1 на входе приемника пропускная способность канала (5.37)
????
∞
= 1,443
????
????
????
0
не зависит от ширины его пропускания, а определяется средней мощностью пе- редаваемого сигнала и спектральной плотностью мощности шума (мощности, приходящейся на единицу полосы).
Теорема 5.3 определяет нижний предел допустимого абсолютного отноше- ния
????
????
????
0
. Верхний предел установлен экспериментально. При отношении
(
сигнал шум
)
????
????
????
0
≥ 12 дБ обеспечивается практически безошибочная передача информации.
Следовательно, практическая необходимость применения помехоустойчивого кодирования и выбора соответствующего кода возникает лишь в том случае, ко- гда соотношение
????
????
????
0
лежит в диапазоне минус 1,6 плюс 12 дБ. Для специальных систем (космических, военных, телеметрии), где требуется повышенная надеж- ность передачи информации, помехоустойчивое кодирование позволяет полу- чить значительно большее значение отношение сигнал/шум на выходе декодера приемника, и тем самым практически не допустить возможность возникновения ошибок.
Формулу (5.34) можно записать в следующем виде:
???? = ???????? log
2
(1 + ????
????
????
????
⁄
), (5.39) где I – максимальное количество информации, передаваемое по каналу за время
Т.
Из (5.39) следует, что при уменьшении отношения ????
????
????
????
⁄
или уменьшения
????
????
????
0
можно сохранить количество передаваемой информации, расширяя полосу сигнала или увеличивая время передачи. Выражение (5.39) имеет фундаменталь- ное значение для теории информации.
5.9. Статистические характеристики каналов
104
Проектирование и разработка инфокоммуникационных систем различного назначения требует априорного знания значений вероятностей ошибок при пере- даче информации в том или ином канале. Статистика ошибок в различных кана- лах к настоящему времени исследована достаточно полно. Опубликованы ре- зультаты экспериментов, касающиеся измерения частоты ошибок на информа- ционный бит и характера их группирования в каналах. Вероятность появления ошибок на выходе соответствующего канального приемника по данным отече- ственной и зарубежной литературы находится в следующих пределах:
– радиорелейного: ????
????
=
10
−4
– 10
−5
;
– телефонного: ????
????
= 10
−3
– 10
−5
;
– магнитной ленты: ????
????
= 10
−4
– 10
−5
;
– телеметрического: ????
????
= 10
−6
– 10
−10
;
– оптического диска: ????
????
= 10
−5
– 10
−6
;
– космического телеметрического: ????
????
= 10
−12
– 10
−23
В телеметрическом канале космического корабля многоразовых полетов
(Space Shuttle) с помощью (127, 120) БЧХ-кода достигается вероятность ложного приема командной информации менее ????
????
= 6,62 ∙ 10
−23
Для цифровых устройств различают следующие вероятности ошибок:
вероятность ошибки из-за дефекта (отказа) элементов;
вероятность ошибки из-за сбоев элементов.
Дефект – отказ какого-либо элемента, местоположение которого известно, а состояние не изменяется при входных воздействиях. Покажем это на примере матрицы оперативного ЗУ. Дефектной является третья ячейка памяти, (рис. 5.2).
Рис. 5.2. Дефект ЗУ
Сбой – это перемежающийся переход состояния элемента из правильного в неправильное и обратно (возможен и при входном воздействии). Для полупро- водниковой памяти вероятность ошибки из-за отказа равна
????
????????
= 10
−5
– 10
−6
, а вероятность ошибки из-за сбоев элементов
Записываемая информация
Считываемая информация
Дефект (состояние «1» 3-й ячейки)
0 1
0 1
0 1
1 1
105
????
????????
= 10
−4
– 10
−5
Для того чтобы гарантировать высокую надежность памяти необходимо иметь вероятность ошибки из-за отказа порядка
????
????????
= 10
−7
– 10
−8
5.10. Задания для самостоятельного выполнения
1. Определить пропускную способность ДСК с переходной вероятностью
???? = 10
−3 2. Определить пропускную способность непрерывного канала, если
????
????
????
0
=
0,1. Полоса канала равна
1
W
MГц.
3. Показать, что отношение
????
????
????
????
⁄
определяет параметр
(2
????????
????
− 1) системы передачи информации.
4. Вычислить отношение сигнал/шум по мощности на выходе космиче- ского канала Марс – Земля.
Средняя мощность сигнала на входе приемника определяется соотноше- нием
???? =
????
????
????
????
????
4????????
2 1
????
, где: ????
????
– средняя мощность сигнала передатчика;
????
????
– коэффициент усиления антенны передатчика;
???? – расстояние до приемника;
???? – эффективная площадь антенны приемника;
???? – коэффициент потерь мощности сигнала на входе приемника, учитывающий потери мощности из-за влияния ионосферы, тропосферы, неравномерности диа- грамм направленности антенны передатчика и приемника и др.
Экспериментальные исследования космического канала показали, что ве- личина ???? находится в диапазоне 1,2– 2.
Расстояние ???? ≈ 400 млн км.
Пусть ????
????
= 60 Вт. Если принять коэффициент полезного действия передат- чика равным 10% , что реально для несущей частоты ???? = 1 ГГц передатчика космического аппарата, передатчик должен иметь блок энергопитания мощно- стью 600 Вт. Для обеспечения такого расхода электричества на Марсе потребу- ются солнечные батареи с площадью панелей ≈15 м
2
Коэффициент ????
????
зависит от размеров антенны с параболическим рефлек- тором передатчика космического аппарата. Пусть диаметр антенны равен 1,5 м.
В этом случае можно иметь коэффициент усиления ????
????
≈ 200.
106
Из-за большого расстояния между передатчиком и приемником, и необхо- димостью иметь приемлемое значение средней мощности сигнала на входе при- емника, на Земле используются приемные антенны (антенные поля) большой площади. Пусть ???? = 600 м
2
Исследования космических каналов большой протяженности показали, что основной помехой в них является белый шум со спектральной плотностью мощ- ности
0
эф
N
kT
где ???? – постоянная Больцмана (???? = 1,38 ∙ 10
−23
Дж K
⁄ ),
эф
T
– шумовая темпе- ратура всех источников помех (собственные шумы, устройства космического ап- парата, Галактика, яркие звезды, Солнце, Луна, Земля, атмосфера и др.). На ча- стоте ???? = 1 ГГц шумовая температура
50
эф
T
K
Пусть ширина полосы частот ???? канала равна ???? = 30 КГц.
5. Вычислить пропускную способность космического канала Марс – Земля для задания 4.