ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 22.02.2019
Просмотров: 2407
Скачиваний: 37
Для дискретного канала с шумами (рис. 3.1) количество информации, содержащейся в последовательности выходных сигналов ZT о входных сигналах YT, cоставит:
I(ZT,YT) = H(ZT) – H(ZT /YT) = H(YT) – H(YT /ZT) , (3.5)
где H(ZT /YT) и H(YT /ZT) – условные энтропии.
Для последовательности сообщений длительностью Т, содержащей m сигналов источника, имеем
H(ZT)= mH(Z), (3.6)
где H(Z) – энтропия выходного сигнала или энтропия выхода канала, рассматриваемого как эргодический источник.
Аналогично для условной энтропии выхода канала запишем:
H(ZT /YT) = mH(Z/Y). (3.7)
Тогда из (3.5) (3.7) находим
I(ZT,YT) = mH(Z) – mH(Z/Y) . (3.8)
Скорость передачи в дискретном канале с шумами с учетом (3.8) составит
, (3.9)
где – средняя длительность сигнала одного сообщения.
Аналогично с учетом (3.5) найдем
. (3.10)
В равенстве (3.10) – поток информации на выходе кодирующего устройства, характеризует потерю информации, обусловленную действием помех.
Из соотношений (3.9) и (3.10) пропускная способность канала может быть определена из условия
. (3.11)
В качестве примера рассмотрим двоичный канал связи без памяти. Каналами без памяти называются такие каналы, у которых на каждый передаваемый сигнал (символ) шум действует независимо от того, какие символы передавались ранее. Длительности передаваемых символов двоичного кода у0 и у1 («0» и «1») примем одинаковыми и равными , следовательно, с=.
На выходе канала используется решающее устройство (РУ), с помощью которого принимаемые сигналы разделяются на две области z0 и z1 так, что если сигнал попадает в область z0, то считается (принимается решение), что был передан сигнал y0, а если в z1, то – у1.
Решающее устройство допускает принятие и ошибочных решений. Например, сигнал у1 может быть искажен помехой так, что он окажется в области z0, в результате чего РУ принимает ошибочное решение, вероятность которого обозначим P(z0/y1) = PI. Аналогичное ошибочное решение может быть принято и для сигнала у0. Вероятность этого решения составит P(z1/y0)=PII.
Очевидно, что при данных обозначениях вероятности правильного решения будут P(z0/y0)=1–PII и P(z1/y1)=1–PI. Для краткости записи обозначим априорные вероятности передачи сигналов P(y0)=P0 и P(y1)=P1=1–P0. Для рассматриваемого двоичного канала введенные обозначения схематично показаны на рис. 3.2 в виде следующей модели.
Используя правила теории вероятностей, можно найти значения априорных вероятностей различных решений, принимаемых на выходе канала:
3.12)
Рис. 3.2. Модель двоичного канала 4/19-10-2018
Лк5
Для вычисления пропускной способности рассматриваемого канала находим
, (3.13)
или в принятых обозначениях вероятностей с учетом (3.12):
(3.14)
Подставив найденные значения и в формулу (3.9), получим соотношение, определяющее скорость передачи информации , из которого может быть найдено оптимальное значение априорной вероятности (Р0опт) передачи сигнала у0, при котором принимает максимальное значение, равное пропускной способности канала Сс.
Для иллюстрации изложенного рассмотрим в качестве примера симметричный двоичный канал без памяти. В этом канале PI = PII = Pош, т.е. вероятности ошибочного приема сигналов (символов) у0 и у1 одинаковы. Тогда из (3.14) находим
.
Очевидно, не зависит от Р0. В таком случае скорость передачи информации (3.9) будет максимальной, когда величина примет наибольшее значение. Из свойств энтропии следует, что это условие выполняется, когда P(z0)=P(z1)=0,5, и в этом случае .
Таким образом, для симметричного двоичного канала пропускная способность
. (3.15)
Как отмечалось ранее, для достижения максимальной скорости передачи информации необходимо в кодирующем устройстве обеспечить такое формирование символов кода, при котором Р0=Р0опт. Значение Р0опт можно вычислить из выражений (3.12), приняв во внимание PI=PII=Pош и P(z0)=P(z1). Путем вычитания из (3.12) находим:
Р0опт(1–Рош)+(1–Р0опт)Рош – (1–Р0опт)(1–Рош) –Р0оптРош = 0.
Далее можем получить 1 – 2Р0опт = 2Рош (1 – 2Р0опт), откуда Р0опт = 0,5.
Таким образом, условие обеспечения максимальной скорости передачи информации в симметричном канале с шумами такое же, как и в канале без шумов. Однако наличие шумов, приводящих к ошибкам, снижает пропускную способность каналов.
На рис. 3.3 приведен график зависимости Сс от Рош, полученный из формулы (3.15).
Как видно из этого графика, при Рош= 0,5 пропускная способность канала Сс= 0. Этот результат станет очевидным, если учесть, что для значения Рош= 0,5 при передаче каждого из символов на выходе канала с равной вероятностью может быть принято решение z0 и z1.
Эти решения могут иметь такую же ценность, как если бы передача сигналов прекратилась, и на выходе канала принималось бы решение по результатам бросания монеты (цифра или герб). Интересно также отметить, что если Рош 0,5, то с увеличением Рош пропускная способность канала возрастает. Этот, на первый взгляд, парадоксальный вывод становится очевидным, если принять во внимание, что мы всегда можем изменить правило распознавания символов на обратное, т.е. считать, что решение z1 соответствует передаче символов у0, а решение z0 – передаче символа у1. Тогда вероятность принятия ошибочного решения станет равной 1 – Рош.
Рис. 3.3. График зависимости Сс от Рош
3.2. Пропускная способность непрерывных (аналоговых) каналов
Независимо от характера преобразований сигналов, происходящих в конкретном непрерывном канале связи, можно рассматривать этот канал как некоторый преобразователь (рис. 3.4), устанавливающий соответствие между сигналами на выходе z(t) и на входе y(t). В результате воздействия помех (шумов) соотношение между z(t) и y(t) носит вероятностный характер.
Рис. 3.4. Структура непрерывного канала
Количество информации, содержащейся в случайном сигнале ZT, о случайном сигнале YT находится как
I(ZT,YT) = H(ZT) – H(ZT/YT) . (3.16)
Рассмотрим случай, когда входной y(t) и выходной z(t) сигналы являются стационарными, эргодическими и стационарно связанными функциями времени. Выберем отрезки этих функций на временном интервале Т, полагая, что вне этого интервала y(t) и z(t) невелики, так что функции yT (t) и zT (t) с допустимой погрешностью определяются m отсчетами сигналов, взятыми в соответствии с теоремой Котельникова. В этом случае
H(ZT) = mH(Z), (3.17)
H(ZT/YT) = mH(Z/Y), (3.18)
в которых H(Z) – энтропия одного отсчета сигнала zT (t), а Н(Z/Y) – условная энтропия отсчета.
Из выражений (3.16) – (3.18) получаем
I(Z,Y) = mH(Z) – mH(Z/Y), (3.19)
где индексы опущены, так как они отсутствуют в правой части равенства.
При сделанных допущениях скорость передачи информации в непрерывном канале можно определить как
, (3.20)
где ; Т0 – период отсчетов непрерывных сигналов zT (t) и yT (t), определяемый теоремой Котельникова: (здесь Fm – максимальная частота спектра сигналов),
,(3.21)
. (3.22)
Из соотношений (3.20) – (3.22) следует, что скорость передачи информации в непрерывном канале (поток информации, получаемый на выходе канала) зависит от характеристик помех, действующих в канале и определяющих функцию W(z/y), и от статистики передаваемых (преобразуемых) сигналов W(y), так как .
Если W(z/y) определяется свойствами канала, то, варьируя W(y), можно найти такую функцию распределения входного сигнала y(t), при которой поток получаемой информации будет наибольшим. Эти соображения позволяют написать выражение для пропускной способности непрерывного канала в виде соотношения
. (3.23)
3.3. Определение пропускной способности непрерывного канала
Рассмотрим случай, когда помеха в канале действует как аддитивный шум n(t), т.е.
z(t) = y(t) +n(t).
Допустим также, что этот шум – стационарный, имеет нормальный закон распределения и его средняя мощность равна его дисперсии Pш=N2 (N2 – дисперсия сигнала помехи). Заметим, что шум с нормальным законом распределения обладает максимальной энтропией, следовательно, такой шум создает максимальное воздействие на полезный сигнал.
Определив пропускную способность канала, примем во внимание, что его полоса частот пропускания ограничена пределами от 0 до Fm, а средняя мощность Рc полезного сигнала y(t) выражается через его дисперсию: Pc = Y2.
С учетом ограничения полосы частот пропускания канала спектры частот сигналов y(t), z(t) и n(t) не должны превышать частоты Fm. В этом случае , и тогда выражение (3.20) можно представить так:
.
В случае аддитивной помехи последнее выражение можно записать как
, (3.24)
где H(N) – энтропия источника помехи (в нашем случае) с нормальным законом распределения, имеющим вид
. (3.25)
Энтропию такого источника найдем по формуле
. (3.26)
Так как и , из выражения (3.26) с учетом (3.25) получим
(3.27)
Пропускную способность рассматриваемого канала можно найти с учетом (3.24) и (3.27) в виде
. (3.28)
Поскольку Fm и N в нашем случае заданы, то выражение, стоящее в квадратных скобках, будет наибольшим, если энтропия выходных сигналов канала H(Z) будет максимальной. Так как средние мощности полезного сигнала y(t) и шума n(t) ограничены, то их аддитивная смесь на выходе канала z(t) будет также иметь ограниченную мощность. При таком условии известно, что H(Z) будет наибольшей, если z(t) имеет нормальный закон распределения. Поскольку помеха имеет нормальный закон распределения, то и полезный сигнал y(t) должен иметь нормальный закон распределения. Если полезный сигнал и сигнал помехи статистически независимы, то Z2 =Y2 + N2 и, следовательно,
.
Подставляя это значение H(Z) в (2.13) и учитывая обозначения Y2=Рс и N2=Рш, получаем
. (3.29)
Выражение (3.29) представляет собой широко известную формулу Шеннона. Учитывая важность формулы Шеннона, проводим ее более детальное обсуждение. Из равенства (3.29) следует, что увеличить пропускную способность непрерывного канала можно или за счет расширения его полосы частот пропускания Fm и соответствующего расширения спектра полезного сигнала, или за счет увеличения мощности полезного сигнала Рс.
Из рассмотрения формулы (3.29) следует, что одно и то же значение пропускной способности можно получить при разных комбинациях значений полосы частот пропускания канала и отношения Рс /Рш.
Рассмотрим два канала: один с полосой частот пропускания от 0 до W0 (W0=Fм), а другой – от 0 до WW0. При одинаковых пропускных способностях для первого канала отношение мощностей сигнал/шум составит (Рс /Рш)0, а для второго – Рс /Рш.
С учетом выражения (3.29) и введенных обозначений для рассматриваемых каналов получим
, откуда находим
.
Если считать, что шум имеет равномерную спектральную плотность, мощность напряжения шума в полосе частот пропускания первого канала составит Рш=S0W0, а второго – Рш=S0W. Здесь S0 характеризует мощность шума в полосе 1 Гц. Тогда предыдущее равенство можно представить в виде
. (3.30)
На выходе реальных каналов . Тогда из (3.30) находим отношение эффективных значений напряжений сигнала и шума:
, (3.31)
где ,
. (3.32)
Значение h2 в (3.32) представляет отношение мощности сигнала к удвоенной мощности шума в полосе частот пропускания канала W0 или требуемое отношение средней энергии сигнала, связанной с одним отсчетом непрерывного сигнала с максимальной частотой спектра W0, к спектральной плотности шума S0.
Рассмотрим случай, когда W. Тогда из (3.31) получим
. (3.33)
Из (3.33) следует, что минимально возможная требуемая мощность сигнала в идеальном канале с полосой частот пропускания W0 определится как
. (3.34)
Для заданной конечной полосы частот пропускания непрерывного канала W минимально возможная величина h2min может быть определена из выражения (3.31) как
. (3.35)
Ранее отмечалось, что условие максимальной скорости передачи информации обеспечивается в случае, когда источник сообщения имеет нормальный закон распределения. Реальные источники обычно имеют ограниченный диапазон изменения непрерывной случайной величины от -uc до +uc.. Наибольшее значение энтропии таких источников дает равномерное распределение. При одинаковой информативности эффективное напряжение источника с равномерным распределением, равное , должно несколько увеличиваться (не более 20 % по сравнению с источником с нормальным распределением).
В реальных каналах обычно в целях простоты рассматривается прохождение гармонических сигналов с амплитудой uc. Эффективное напряжение гармонического (синусоидального) сигнала составляет . Тогда перерасчет отношения с/ш для гармонического сигнала и сигнала с равномерным распределением будет иметь вид
. (3.36)
Заметим, что через отношение выражается относительная шумовая среднеквадратическая погрешность на выходе канала:
. (3.37)
Принимая = 0,01 ( ) и используя формулы (3.36) и (3.37), находим , а по формуле (3.34) –
h2min min = ln 81,6 = 4,4.
Н а рис. 3.5 с учетом формулы (3.35) построена зависимость для случая = 0,01.
Рис..3.5.. Зависимости для идеального канала и реальных каналов с АМ и ЧМ
Известно, что в канале с тональной (гармонической) амплитудной модуляцией (АМ) [1]
, или, используя (3.32), получим
. (3.38)
С учетом ширины частотного спектра сигнала в канале при АМ имеем . Если , из формулы (3.38) для АМ=0,01 находим h2=104. Если увеличивать полосу канала, выбирая W2W0, то мощность шума будет пропорционально возрастать, и для сохранения шумовой погрешности АМ=0,01 необходимо соответственно увеличивать мощность полезного сигнала, а следовательно, и значение h2, т.е. зависимость будет линейной (рис. 3.5). Таким образом, увеличение полосы частот пропускания канала с АМ в отличие от идеального канала приводит к ухудшению его энергетических показателей. Поэтому в канале с АМ совершенно нецелесообразно выбирать .
Для канала с частотной модуляцией (ЧМ)
(3.39)
где индекс ЧМ,
наибольшее отклонение частоты при тональной ЧМ.
Полоса частот пропускания канала с ЧМ по формулам Манаева Е.И. в принятых здесь обозначениях определяется как
(3.40)
или
. (3.41)
С учетом (3.40) находим
,
и тогда формула (3.39) примет вид
. (3.42)
Обычно при ЧМ стараются для снижения шумовой погрешности (3.39) выбирать β 1. В этом случае из (3.42) получим
. (3.43)
Из формулы (3.43) следует, что с увеличением полосы частот пропускания канала W шумовая погрешность ЧМ будет уменьшаться.
Это свойство канала с ЧМ легко объясняется. При увеличении полосы частот пропускания канала для согласования частотного спектра сигнала необходимо повысить индекс ЧМ [см. формулу (3.41)], а увеличение приводит к уменьшению шумовой погрешности ЧМ [см. формулу (3.39)].
При заданной погрешности ЧМ увеличение полосы частот пропускания канала позволяет уменьшить значение h [см. формулу (3.42)], т.е. снизить значение эффективного напряжения полезного сигнала на входе канала, что отражено для ЧМ на рис. 3.5.
Из сопоставления формул (3.38) и (3.39) при малых значениях канал с ЧМ не имеет преимуществ по шумовой погрешности по сравнению с АМ. Заметим, что при малых значениях полосы частот пропускания каналов с ЧМ и АМ практически одинаковы. На рис. 3.5 качественно приведена зависимость для канала с ЧМ, из которой видно, что в канале с ЧМ более рационально используется расширение полосы частот пропускания, чем в канале с АМ. Однако канал с ЧМ существенно уступает идеальному каналу по Шеннону, особенно при значениях W/W0(W/W0)опт, когда очень резко появляются так называемые аномальные выбросы шумов. Поэтому при ЧМ оптимальную величину индекса модуляции и минимальную величину h2 выбирают при Wопт. Аномальными выбросами можно пренебречь, если амплитуда несущей в 4 раза больше эффективного напряжения шума в полосе частот пропускания (3.41) канала с ЧМ. При этом вероятность аномальных выбросов составляет . Данному условию соответствует так называемый пороговый сигнал