Измерение информации. Объемный подход

Страницы: <<  <  2 | 3 | 4 | 5 | 6  >  >>

волов и, следовательно, 5 битов информации. Правда, в той же системе его можно записать и по-другому; 0011001. Такое сообщение будет содержать 7 битов информации.
Одним битом можно передать только одно из двух сообщений -- 0 или 1. Эти короткие сообщения порой несут большую смысловую нагрузку: могут означать ответ "да" или "нет", сигнал включения или отключения электроэнергии. Но для передачи они предельно просты. Двух битов достаточно для передачи четырёх различных сообщений: 00, 01, 10, 11. Согласно правилам комбинаторики, записью из n двоичных символов можно передать одно из 2n сообщений.
Общее количество символов, используемых в обычных текстах, больше чем 27 128, но меньше чем 28 256. (На клавиатуре компьютера можно насчитать около 150 знаков. ) Поэтому одного байта как раз достаточно, чтобы закодировать в двоичной системе любой символ обычного текста. Для сложных математических символов (квадратного корня, интеграла и др. ), букв различных шрифтов и алфавитов (например, греческого) одного байта недостаточно.
А как измерить количество информации в сообщении, если оно записано не в двоичной системе? И зачем измерять такое сообщение в битах и байтах? Это нужно для того, чтобы знать, сколько символов будет в сообщении, если его закодировать с помощью двоичного алфавита. Конечно, и в двоичной системе, как мы видели, одно и то же число можно закодировать по-разному. Однако для каждого сообщения существует минимальное количество битов. Как его определить?
Рассмотрим запись десятичных чисел в двоичной системе. Первые 2n чисел - от 0 до 2n - 1 - можно записать n битами. Например, для записи чисел от 0 до 7 хватит трёх битов (22 7 23), от 0 до 31 -- пяти и т. д. Если N -- степень числа 2 (N 2n), то для его записи нужно n 1 би

Страницы: <<  <  2 | 3 | 4 | 5 | 6  >  >>
Рейтинг
Оцени!
Поделись конспектом: