Алфавит- набор всех допустимых символов знаковой системы.
N = 2i(1.1)
I = i·k
где N – мощностьалфавита, i- количество информации, которое несет в себе каждый символ алфавита, k-количество знаков в сообщении, I- количество информации в сообщении при алфавитном подходе
Чем больше алфавит знаковой системы, тем больше количество информации несеткаждый знак.
Формула (1.1) связывает между собой количество возможных информационных сообщений N и количество информации I, которое несет полученное сообщение. Тогда в рассматриваемой ситуации N - это количество знаков в алфавите знаковой системы, а I - количество информации, которое несет каждый знак:
N = 2i.
Пример 1 .
Пусть сообщение записано русскимибуквами . Алфавит русского языкасостоит из 32 знаков (исключая Ё).
N=32 =>32=25, i=5 бит .
Один знак русского алфавита несет 5 битинформации
Пример 2.
Пусть передается простое арифметическоевыражение.
Алфавит арифметических состоит из 16знаков: 0…9, +, - ,· , /, ( , ).
N=16=> 16=24 , i = 4 бит
Пример 3.
Передача информации в техническихсистемах осуществляется в двоичнойзнаковой системе
N=2 => 2=2i =>21=2i=> i=1 бит
Количество информации в сообщении. Сообщение состоит из последовательности знаков, каждый из которых несет определенное количество информации.
Если знаки несут одинаковое количество информации, то количество информации I в сообщении можно подсчитать, умножив количество информации i, которое несет один знак, на длину кода (количество знаков в сообщении) k: I = i·k