Теория информации и их разновидности

Г.

Мера количества информации теории Шеннона

Вероятностная теория информации была разработана Шенноном и относится к числу формальных, основные ее положения опубликованы в 1948 году. В этой теории рассматриваются вероятностные множества обладающие определёнными статистическими свойствами и изучаются три категории информации.

•       В первой она представляет собой события принадлежащих конечному множеству случайных событий.

•       Во второй категории числа являющиеся значениями непрерывной случайной величины.

•       В третьей категории непрерывные функции (реализации непрерывной случайной функции).

 

Дискретные случайные величины которые в результате опыта принимают одно из назначений принадлежащих конечному множеству рассматриваются в этой теории как множество случайных событий. Математическим аппаратом в теории Шеннона служит теория относительности, ее применяют во многих областях где явления и процессы носят случайных характер.

Любые действия приводящие к появление некоторого события принятию величиной некоторого значения или функцией некоторого конкретного вида (реализации) называются вероятностной теории информации опытом. Считается что до осуществление опыта известна все множество его исходов, но не известна каким из этих исходов он закончится.

Получение информации в опыте связанно с тем что до осуществления опыта имеется некоторая неопределенность относительно его исхода, т.е. относительно того какое из событий в нем произойдет, какое значение примет величина или какой конкретный вид получит функция. Эта неопределенность порождается самой случайностью исходов который позволяет дать однозначный ответ в конечном результате опыта. По окончанию опыта неопределенность относительно его результатов или совсем исчезает или уменьшается. Уменьшение неопределенности относительно исхода опыта в результате его осуществления понимается как получение информации.

 

За меру количества информации в теории Шеннона принято

 I = H_{до опыта} – H _{после опыта,} где H_{до опыта} неопределенность исхода опыта до опыта

H_{после опыта} неопределенность исхода опыта после опыта

Из формулы видно, что для нахождения количества информации (I) необходимо установить меру неопределенности исхода опыта. 1948 году Шеннон предложил меры неопределённость исхода опыта отдельно для множества случайных событий, непрерывной случайной величины и случайной функции.

В цифровых устройствах РТС из трех веденных Шенноном мер неопределенности рассматривается в основном одна, а именно: мера неопределённости исхода опыта с множеством случайных событий.

Г.

 

Год.

Год

Каналы связи по радио

Радиорелейные линии связи

Волны УКВ диапазона в отличии от длинных и коротких волн могут распространяться в пределах прямой геометрической видимости т.к. УКВ не огибают поверхность земли как длинные волны и не отражаются от ионосферы как короткие волны. Распространение в пределах прямой видимости ограничивает дальность действия УКВ передатчиков и зависит от рельефа местности и высоты подвеса приемной и передающей антенны.

Связь на большие расстояния возможна при использовании радиолиний с ретрансляцией – радиорелейных линий (РРЛ). РРЛ осуществляет передачу на волнах 75, 15, 7, 5, 3.75 и 2.70 см. Диапазон частот от 300 МГц до 30 ГГц. В этих диапазонах передается тысячи телефонных разговоров и программ телевидения.

РРЛ представляет собой ряд станций поочередно принимающих усиливающих и передающих сигналы. Каждая из таких станций оборудована приемной и передающей направленными антеннами.

Оконечные станции оборудуются аппаратурой уплотнения позволяющей с помощью частотного и временного разделения сигналов обеспечить передачу большого числа сообщений. Передатчик оконечной станции с помощью антенно-фидерного устройство излучает групповой модулированный сигнал с частотой f₁ на первой промежуточной станции этот сигнал после приема усиливается и излучается уже с частотой f₂ изменение частоты необходима что бы передатчик не воздействовал на приемник своей же станцией. После приема на второй промежуточной станции сигнала с частотой f₂ передатчик этой станции излучает сигнал с частотой f₁ из-за дальности расстояния этот сигнал не оказывает влияние на предыдущую подстанцию на первой промежуточной станции дополнительно установлена аппаратура выделения НЧ каналов.

В случае недостаточной пропускной способности одной радиорелейной линии параллельно прокладывают еще одну или несколько таких же линий. При этом для удешевления строительства аппаратуру параллельных РРЛ сосредотачивают на общих оконечных и промежуточных станциях. А передающие и приемные антенны на этих станциях объединяют для всех передатчиков и приемников одного направления. Так образуется многоствольная РРЛ, в которой одна РРЛ составляет один ствол,

Опыт эксплуатации РРЛ показал – их качественные показателе не уступают кабельным линиям связи, но РРЛ обладает большей пропускной способностью имеют меньшую стоимость и требуют меньшие затраты цветного метала.

 

Год.

Г.

Теория информации и их разновидности

Теории исследующие различные формы существования информации называются теориями информации. В одной теории может изучаться как одна так и несколько форм ее существования. Цель каждой теории – установить меру количества информации представленная в определенной форме и выявить закономерное изменения этого количества при протеканий различных информационных процессов.

Основных информационных процессов 6. 6 основных информационных процессов можно свести к трем принципиально различным:

· Появлению;

· Передачи;

· Обработки информации.

Появление информации связанно с наличием или действием некоторого объекта который отвлекаясь от его физической природы называют источником.

Передачи информации обусловлена свойствами другого объекта – физической среды которую называют каналом передачи информации.

Обработка информации предполагает наличие третьего объекта способного выполнять определённый детерминированный алгоритм который называют процессором. Источник, канал и процессор – три основных информационных объекта.

Теория информации называется полной если в этой теории для данной категории:

1. Устанавливает мера количества информации и выясняются ее свойства.

2. Изучаются источники выдающие информацию этой категории и процесс ее появления в результате их действия.

3. Исследуются каналы обеспечивающие передачу информации и процесс ее передачи по этим каналам.

4. Изучаются процессоры обрабатывающие информацию и процесс ее обработки по реализуемым алгоритмам.

Если в теории не рассматривается хотя бы один из этих вопросов – то теории называют не полной для этой категории. 

 

 

Различают 2 вида теории информации. В теориях первого вида называемых формальными мера количества информации для каждой изучаемой категории вводится без учета того критерия которым будет пользоваться его получатель при ее оценке. Эти теории применяются широко при характеристике работы различных технических устройств.

В теориях второго вида – называемых неформальными мера количества информации выбирается с учетом критерия по которому получатель оценивает информацию; в качестве таких критериев используются: критерий содержательности, ценности и полезности.

Эти теории оценивают количество получаемой информации с точки зрения человека или искусственного интеллекта наделённого в определённого в определённых рамкам способную логически мыслить.

Под содержательностью информации понимают наличие в ней смысла, содержания, т.е. осознаваемых субъектом сведений об объективной реальности. Предполагается что до оценки информации субъект – человек или ИИ – обладает определённым тезаурусом т.е. систематизированным совокупностью знаний о реальном мире. Считается что информация обладает содержательностью если ее восприятие субъектом приводит к расширению (к увеличению) его тезауруса. Если роста тезауруса не происходит то полагают что данная информация не обладает содержательностью для воспринимающего его субъекта.

Теория информации в которых устанавливают меры содержательной информации заключённой в изучаемых в них категориях называются семантическими (семантика указываю назначаю – раздел семиотики изучающий смысловое значение знаков слов и предложений в различных знаковых системах. Семантическая информация всегда составляет лишь часть всей информации которая содержится в некоторой ее категории.

Полезность информации – свойство которое позволяет субъекту некоторые свои интересы – духовные культурные и др.

Ценность информации – такая семантическая информация которая оценивается субъектом как значимое необходимая для удовлетворения его материальных, культурных, духовных интересов.

Полезной называют такую информацию ценность которой обеспечивает субъекту достижение поставленной им целей с меньшенькими материальными физическими и психическими затратами т.е. получение выгоды.

 

 

Теории информации в которых устанавливаются меры полезной для получателя информации в тех категориях которые в них изучается называются прагматическими. Прагматика (дело, действие) раздел семиотики изучающий практическую полезность знаков слов и предложений различных знаковых систем.

Если обозначить через I_ф количество информации формальной теории в некоторые ее категории. Iс_сем количество семантической информации. I_ц – ценной информации и I_пр – прагматической информации то всегда существе соотношение:

 

Iф

Отношение между различными видами информации

Iсем

Iц

Iпр

 

 

 

В зависимости от характера появления элементов - неслучайного или случайного, в рассматриваемой категории информации формальные и неформальные теории изучающие эту категорию делятся на не вероятностные и вероятностные. В не вероятностных теориях для установления меры количества информации используется аппарат какой-либо детерминистской математической теории; вероятностных – это мера водится при помощи понятий и аппарата теории вероятности.

В настоящий период развития науки в области теории информации отчётливо прослеживаются два направления исследований:

1. Создания отдельных частных теорий информации призванных охватить информационным описанием те категории информации для которых уже известные меры не являются адекватными;

2. Формирование общей теории информации пригодной для исследования различных категорий независимо от характера появления их элементов.

12345Следующая ⇒

Поделиться: