ОПТИМАЛЬНОЕ РЕШАЮЩЕЕ ПРАВИЛО ВОССТАНОВЛЕНИЯ СИМВОЛА ПРИ ПРИЕМЕ ПО КРИТЕРИЮ МИНИМУМА       ВЕРОЯТНОСТИ СРЕДНЕЙ ОШИБКИ

При приеме сигнала по зашумленному каналу возникает вопрос о том, какой реально символ был передан, совпадает ли он с тем, что зафиксировано на приемном устройстве, или шумы и помехи исказили его «до неузнаваемости». Другими словами: приняли сигнал , а на самом деле передано было что? Понятно, что абсолютно достоверно восстановить переданное сообщение невозможно, однако вычислить наиболее вероятный вариант, используя метод максимального правдоподобия, – в наших силах.

В работе нужно получить решающее правило - правило выбора переданного символа  по принятому - , оптимальное по критерию минимума вероятности средней ошибки. Понятно, что этот  не истинно переданный символ, а лишь наиболее ожидаемый, наиболее вероятный. Поэтому мы будем обозначать его значком с «крышечкой» - .

Канал связи задается двумя множествами и . Первое определяет вероятность появления символа  на входе канала, второе задает вероятности перехода – вероятность того, что будет принят символ , если реально был передан символ .  Согласно методу правдоподобия нас будет интересовать такой , который доставляет максимум условной вероятности ,т.е. .                                               

Заметим, что эта условная вероятность принципиально отличается от вероятности перехода, задающей канал связи. Она описывает вероятность при условии известного принятого символа, тогда как переходная вероятность задается при условии известного переданного символа. Однако эти вероятности связаны между собой известным соотношением

,                      (9)

которое можно переписать в виде

.                               (10)

С максимальной достоверностью переданное сообщение может быть определено как

                       .                      (11)

При этом вероятность ошибки в определении переданного символа при принятом символе   будет минимальна и может быть найдена по формуле:

                  .                                 (12)

Если теперь вычислить среднюю ошибку, получаемую усреднением по всем возможным принимаемым символам, то вероятность ошибки будет равна:

           (13)

Из приведенного соотношения видно, что ошибка будет минимальна, если для каждого принятого символа  мы будем выбирать такой символ , что произведение  будет принимать максимальную величину.

    Описанное правило реализуем с помощью следующего алгоритма, проиллюстрированного приводимым ниже примером и рис.5.

Пусть вероятности передачи символов по каналу заданы вектором  и матрицей переходных вероятностей :

            .

Построим фигуру, изображенную на рис.5

По оси абсцисс откладываются три отрезка, пропорциональные ,  и  соответственно. По оси ординат в каждой полосе откладываются условные вероятности , моделирующие шум в канале. Очевидно, что площади образовавшихся прямоугольников будут пропорциональны вероятностям .

                  Рис. 5

В соответствии с (13) для каждого  - принятого символа, т.е. в каждой «строке», выделенной пунктирной линией на рис.5, надо выбрать такой прямоугольник, чья площадь максимальна. Его номер по оси абсцисс  – j определит наиболее вероятный символ – , который, скорее всего, был передан источником. Рассмотрим сначала первую (нижнюю) строку – случай приема символа . При переданном символе  вероятность , при  – , при  – . Совместная вероятность   –  0.225 достигает наибольшее значение на паре , где  - принятый, а - переданный символы. Это значит: принимая сигнал , полагайте, что был передан сигнал . Разрешение кажущегося парадокса связано с тем, что вероятность передачи символа  - 0.5 значимо больше вероятности передачи символа  - 0.3. В рассматриваемом нами примере решающее правило выглядит следующим образом: .

ЛИТЕРАТУРА

1. Колесник В.Д. и Полтырев Г.Ш. Курс теории информации. – М.: Наука, 1982.

2. Стратонович Р.Л. Теория информации. – М.: Сов. радио, 1975.

3. Котоусов А.С. Теория информации. – М.: Радио и связь, 2003.