Дискретный канал имеет на выходе множество символов кода Х с энтропией источника Н(Х). На выходе канала - множество символов Y с энтропией Н(Y).
Процесс передачи в дискретном канале наиболее рационально представить графической моделью.
Из этой графической модели очевидно:
- Формируемые символы из множества Х и выявляемые символы из множества Y расположены в углах графа.
- Дуги, соединяющие углы, отображают вероятность перехода одного символа в другой.
- Множество Х конечно. Это множество определяется основанием системы счисления выбранного кода Кх на входе канала.
- Система счисления по выявляемым символам Y тоже конечна. Основание ее составляет Кy.
Определив все перечисленное по графической модели, можем записать ее в виде матрицы. На ней представлены вероятности переходов, связывающих входные и выходные символы.
(15)
Из матрицы, представляющей математическую модель дискретного канала связи, можно установить:
- i-й столбец определяет вероятность выявления на выходе дискретного канала связи символа Yi.
- Вероятности, расположенные по главной диагонали, - это вероятности прохождения символов.
- Остальные вероятности - это вероятности трансформации.
Анализ модели дискретного канала возможен, если известна статистика появления сигналов на входе канала. Тогда можно определить энтропию Н(Х). Если известна статистика появления символов на выходе канала, можно определить энтропию Н(Y). Потери информации в процессе передачи вызываются помехами. На рисунке они изображаются потоками ошибок. Поток ошибок задается моделью ошибок, по которой определяется условная энтропия Н(У/X). То есть можно найти количество информации, необходимое для выявления и исправления ошибок. На основании модели дискретного канала связи можно классифицировать каналы, выбирать оптимальный способ кодирования - то есть проектировать процесс передачи данных.