Измерение информации: количество, единицы измерения, энтропия

Сообщение как совокупность знаков с точки зрения семиотики может изучаться на трех уровнях:

- синтаксическом (структура данной знаковой системы);

- семантическом (смысловое содержание сообщения);

- прагматическом (потребительское содержание сообщения).

На синтаксическом уровне для измерения информации используют:

- объем информации (V_g) – количество символов (разрядов) в сообщении;

- количество информации (I) – мера уменьшения неопределенности состояния данной системы после получения сообщения.

Объем информации измеряется в битах (двоичная система) и дитах (десятичная система). Так четырехразрядное десятичное число имеет объем данных 4 дит, а восьмиразрядный двоичный код – 8 бит.

Более крупные единицы информации

- 1 байт = 8 бит,

- 1 слово = 2 байта,

- 1 Килобайт = 1024 байт = 2¹⁰ байт,

- 1 Мегабайт = 1024 Кбайт = 2²⁰ байт,

- 1 Гигабайт = 1024 Мбайт = 2³⁰ байт,

- 1 Терабайт = 1024 Гбайт = 2⁴⁰ байт,

- 1 Петабайт =1024 Тбайт = 2⁵⁰ байт.

Для измерения количества информации в качестве меры неопределенности вводится энтропия (H):

I = H_apr - H_aps,

где H_apr – априорная энтропия, а H_aps – апостериорная энтропия.

Если система A описывается полной совокупностью (N) состояний a_i и равными вероятностями их появлений p_i, составляющими в сумме единицу:

Энтропия такого объекта равна логарифму числа состояний (Р.Хартли). В зависимости от основания логарифма применяют следующие единицы измерения:

- биты - ;

- наты - ;

- диты - .

Если вероятности наступления событий разные, то энтропия такой системы вычисляется по формуле К.Шеннона:

На семантическом уровне для измерения информации используют тезаурусную[5] меру – способность пользователя принимать поступившее сообщение.

На прагматическом уровне используют меру ценности информации – количество информации, необходимое для достижения поставленной цели. Так, если до получения информации вероятность достижения цели равнялась p₀, а после ее получения стала равна p₁, то ценность информации определяется по формуле:

Единицы измерения – биты, наты, диты.

Свойства информации

Информация характеризуется тремя категориями свойств: атрибутивными, прагматическими и динамическими.

Атрибутивные свойства- необходимые свойства, те, без которых информация не может существовать:

· это неотрывность от физического (материального) носителя,

· языковая природа,

· дискретность[6],

· непрерывность[7].

Прагматические свойства характеризуют степень полезности информации для практики:

· наличие смысла,

· новизна,

· ценность (полезность),

· кумулятивность[8].

Динамические свойства характеризуют изменение информации во времени:

· свойство роста,

· повторяемости[9],

· многократная используемость[10],

· старение,

· способность рассеиваться по различным источникам.

Динамические свойства информации в значительной мере влияют на характеристики информационных процессов.

Виды информации

Все многообразие окружающей нас информации можно классифицировать по различным признакам. В автоматизированных информационных системах выделяют:

· структурную (преобразующую) информацию объектов системы, заключенную в структурах системы, ее элементов управления, алгоритмов и программ переработки информации;

· содержательную (специальную, главным образом осведомляющую, измерительную и управляющую, а также научно-техническую, технологическую и др.) информацию, извлекаемую из информационных массивов (сообщений, команд и т.п.) относительно индивидуальной модели предметной области получателя (человека, подсистемы).

Один из возможных вариантов классификации информации представлен в табл.1.1.

Таблица 1.1

Классификация информации в автоматизированных системах

Классификационный признак	Виды
По сфере возникновения	Элементарная, биологическая, социальная
По способу передачи и восприятия	Визуальная, аудиальная, тактильная
По сфере общественного назначения	Массовая, специальная[11], личная
По качеству проявления	Полезная, бесполезная (пустая), дезинформация
По содержанию источника информации	О состоянии управляемого объекта, о внешней среде, о целях, о других системах
По полноте отображения	Полная, неполная
По характеру генерирования	Объективная, субъективная
В зависимости от вида носителя	Документальная, акустическая (речевая), телекоммуникационная
По отношению к элементу системы	Статическая, динамическая
По степени стабильности	Условно-постоянная, переменная
По целям использования	Нормативная, справочная, плановая, отчетная аналитическая, оперативно-технологическая
По форме представления	Аналоговая, дискретная

Требования к информации

Требования, предъявляемые к информации:

· адекватность информации – определенный уровень соответствия создаваемого с помощью полученной информации образа реальному объекту, процессу, явлению и т.п.;

· репрезентативность информации связана с правильностью ее отбора и формирования в целях адекватного отражения свойств объекта;

· содержательность информации отражает семантическую (смысловую) емкость, равную отношению количества семантической информации в сообщении к объему обрабатываемых данных;

· достаточность (полнота) информации означает, что она содержит минимальный, но достаточный для принятия правильного решения состав (набор показателей);

· доступность информации восприятию пользователя обеспечивается выполнением соответствующих процедур ее получения и преобразования;

· актуальность информации определяется степенью сохранения ценности информации для управления в момент ее использования и зависит от динамики изменения ее характеристик и от интервала времени, прошедшего с момента возникновения данной информации;

· своевременность информации означает ее поступление не позже заранее назначенного момента времени, согласованного с временем решения поставленной задачи;

· точность информации определяется степенью близости получаемой информации к реальному состоянию объекта, процесса, явления и т.д.;

· достоверность информации определяется ее свойством отражать реально существующие объекты с необходимой точностью. Измеряется вероятностью того, что отображаемое информацией значение параметра отличается от истинного значения этого параметра в пределах необходимой точности;

· устойчивость информации отражает ее способность реагировать на изменения исходных данных без нарушения необходимой точности;

· качество информации – совокупность свойств информации, характеризующих степень ее соответствия потребностям (целям) пользователей.

Кроме того, информация должна быть документальной, т.е. юридически подтвержденной в документах соответствующими подписями (визами) соответствующих должностных лиц.

Составной единицей информации (СЕИ) называют единицу информации, состоящую из совокупности других единиц информации, ассоциативно связанных между собой (т.е. по смыслу). Единицу информации, входящую в СЕИ, называют составляющей единицей информации.

Простой, элементарной составляющей единицей экономической информации является реквизит .

Свойства реквизита:

· отдельно взятый реквизит не может полностью характеризовать экономический процесс или объект;

· отдельный реквизит может входить в состав различных экономических показателей.

Характеристики реквизита: имя (наименование), тип и значение.

Классификация реквизитов:

- реквизиты-признаки, отражающие качественные свойства экономического объекта, процесса или явления;

- реквизиты-основания, характеризующие количественную сторону процесса или объекта.

Электронный документ – сведения, представленные в форме, воспринимаемой электронными средствами обработки, хранения и передачи информации, которые имеют необходимые атрибуты для их однозначной идентификации и которые могут быть преобразованы в форму, пригодную для восприятия человеком.

Электронная цифровая подпись – определенная последовательность символов, имеющая неизменяемое соотношение с каждым символом определенного объема сведений электронного документа и предназначенная для подтверждения целостности и неизменности этого объема сведений, а также тождественности его содержания волеизъявлению заверившего его лица.

В целях упрощения организации процессов обработки, передачи и хранения информации, содержащейся в документах, она может объединяться в виде информационных массивов (файлов – для машинных носителей).

Информационный массив – набор данных (документов) одной формы (одного названия) со всеми их значениями либо сочетание таких наборов данных, относящихся к одной задаче (укрупненный массив). В системах обработки информации массив является основной структурной единицей, предназначенной для хранения, передачи и обработки информации.

Массивы могут объединяться в более крупные структурные единицы. Самой крупной является информационная база, а самой простой формой объединения – информационный поток.

Информационный поток – совокупность информационных массивов, в том числе документов, относительно конкретной управленческой деятельности, имеющей динамический характер.

Информационная база – вся совокупность информации реального объекта.

Классификация информационных массивов:

· постоянные (условно-постоянные) (содержащие нормативно-справочную информацию) и переменные (исходная и промежуточная информация, отражающая текущее состояние объекта управления);

· основные (хранящие обрабатываемые данные) и вспомогательные (результат логической обработки основных массивов);

· входные, промежуточные (внутренние)(содержащие результаты предыдущих расчетов), выходные (результатные);

· текущие (рабочие) (информация о состоянии управляемого объекта на данный момент времени) и служебные (справочники, каталоги, нормативные документы).

12 3 4 5 6 7 8 9 10 Следующая ⇒