Информация. Измерение информации

Информация. измерение информации

Мокрецова Т.И.

БПОУ УР «УРСПК»

Понятие информации

• Информация – это общенаучное понятие.
• Используется в различных науках: информатике, физике, кибернетике, биологии, и т.д.

Понятие информации

Слово «информация»

происходит

от латинского слова informatio,

что в переводе означает

сведение, разъяснение, ознакомление.

Сообщение

Люди обмениваются информацией в форме сообщений .

Сообщение – это и речь, которую мы слушаем (радиосообщение, объяснение учителя), и воспринимаемые нами зрительные образы (фильм по телевизору, сигнал светофора), и текст книги, которую мы читаем и т. д.

Информативным назовем сообщение , которое пополняет знания человека, то есть несет для него информацию.

Информативность сообщения

Для разных людей одно и то же сообщение с точки его информативности может быть разным.

Если сведения «старые» , то есть человек это уже знает, или содержание сообщения непонятно человеку, то для него это сообщение неинформативно .

Информативно то сообщение, которое содержит новые и понятные сведения.

Примеры

Вопрос:

- Содержит ли информацию вузовский учебник по высшей математике с точки зрения первоклассника?

Ответ:

- Да, содержит с любой точки зрения!

Потому что в учебнике заключены знания людей: авторов учебника, создателей математического аппарата (Ньютона, Лейбница и др.), современных математиков.

Другой вопрос:

- Будет ли информативным текст этого учебника для первоклассника, если он попытается его прочитать?

Иначе говоря, может ли первоклассник с помощью этого учебника пополнить собственные знания?

Очевидно, что ответ отрицательный.

Читая учебник, то есть, получая сообщения, первоклассник ничего не поймет, а, стало быть, не обратит его в собственные знания.

Примеры

Вопрос:

- Какой город является столицей Франции?

Ответ:

- Столица Франции – Париж.

Сообщение информативно?

- Нет, так как известно.

Информация и неопределенность

Таким образом, если мы хотим получить более отчетливое представление об информации, стоит поразмышлять о том, что же такое неопределенность и можно ли каким-то образом оценить ее количественно.

Информативность сообщения

Если сообщение неинформативно для человека, то количество информации в нем с точки зрения этого человека равно нулю .

Количество информации в информативном сообщении больше нуля .

Информация и неопределенность

Допустим, вы оказались на перекрестке в незнакомом городе и не знаете, как пройти к вокзалу.

Ваше состояние можно охарактеризовать, как состояние неопределенности.

Но вот прохожий объяснил дорогу к вокзалу.

Теперь у вас появилась информация, а неопределенность пропала.

Информация и неопределенность

Пример: вы услышали по телевизору, что завтра будет солнечная погода.

Ваше состояние изменилось: вы стали обладателем информации, а неопределенность, которая до этого существовала, исчезла.

Информация и неопределенность

Подобное происходит всякий раз, когда у вас появляется та или иная информация, — неопределенность, если она до этого имела место, уменьшается или вовсе ликвидируется.

Подходы к понятию информации

• Традиционный
• Вероятностный

Традиционный подход

Информация -это сведения об объектах и явлениях окружающего мира, их свойствах, характеристиках и состоянии.

Достоверное и невозможные события

Достоверное событие - событие, которое обязательно происходит

Невозможное событие – никогда не произойдет.

Вероятность достоверного события равна 1, а невозможного – 0.

Вероятность каждого из двух равновероятных событий равна ½.

1 бит информации

Сообщение, уменьшающее неопределенность знаний в 2 раза, несет 1 бит информации .

Сообщение о том, что произошло одно событие из двух равновероятных, несет 1 бит информации .

Бит - binary digit (двоичный знак).

Восприятие информации

Человек воспринимает информацию из внешнего мира с помощью всех своих органов чувств, которые являются информационными каналами, связывающими человека с внешним миром.

ЗРЕНИЕ

СЛУХ

зрительные образы

звуковые образы

ОБОНЯНИЕ

запахи

ВКУС

вкусовые ощущения

ОСЯЗАНИЕ

тактильные ощущения

Виды информации

По способу восприятия:

• Визуальная Аудиальная Тактильная Вкусовая обонятельная
• Визуальная
• Аудиальная
• Тактильная
• Вкусовая
• обонятельная

Виды информации

По форме представления:

• Графическая Числовая Текстовая Звуковая Табличная
• Графическая
• Числовая
• Текстовая
• Звуковая
• Табличная

Задание 1.

Определите, какое из сообщений является для Вас информативным:

• Площадь Тихого океана – 179 млн. кв. км.
• Москва – столица России.
• Вчера весь день шел дождь.
• Завтра ожидается солнечная погода.
• Дивергенция однородного векторного поля равна нулю.
• Dog – собака (по-английски).
• Ro do, may si, lot do may.
• 2*2 = 4.

Задание 2.

Дайте следующим сообщениям оценки «важная», «полезная», «безразличная», «вредная» информации:

• Сейчас идет дождь.
• Занятия факультатива по информатике проводятся каждый вторник.
• IBM – это первые буквы английских слов, которые звучат как «интернешнел бизнес машина», что по-русски означает «машины для международного бизнеса».
• Завтра будет контрольная работа по физике.
• Чтобы родители не узнали про двойку, надо вырвать страницу из дневника.
• Лед – это твердое состояние воды.
• Первым человеком, полетевшим в космос, был Юрий Гагарин.
• Номер телефона скорой помощи 002

Подходы к измерению информации

• Содержательный (вероятностный) подход

Сообщение, уменьшающее неопределенность знаний человека в два раза, несет для него 1 бит информации.

Количество информации, заключенное в сообщении , определяется по формуле

N = 2 i

где N – количество равновероятных событий; i – количество информации (бит), заключенное в сообщении об одном из событий.

Определение информации

Будем бросать монету.

Сколько вариантов выпадения может быть? – 2

Вероятность выпадения «герба» или «решки» - ½.

Количество информации – 1 бит .

Определение информации

Будем бросать 2 монеты.

Бросание 2 монет должно

принести 2 бита информации, так количество монет увеличилось в 2 раза.

Количество различных вариантов выпадения по две монеты: 4.

Вероятность появления 1 варианта – ¼

Определение информации

Будем бросать 3 монеты.

При бросание 3 монет количество информации увеличится в 3 раза по сравнению с бросанием 1 монеты.

Количество различных вариантов выпадения по 3 монеты: 8

Вероятность выпадения 1 варианта: 1/8.

Определение информации

А если мы будем бросать 6-гранный кубик?

Количество вариантов выпадения одной из 6 сторон: 6.

Вероятность выпадения одной из 6 сторон: 1/6.

Сколько же будет получено

информации при выпадении

одной из 6 сторон?

Определение информации

От частных примеров приходим к обобщенной формуле:

Если ввести обозначения:

N – число вариантов равновероятных событий (неопределенность знаний),

i – количество информации в сообщении о том, что произошло одно из N событий.

N = 2 i

Если N известно, а i является неизвестной величиной, то данная формула превращается в показательное уравнение, которое решается с помощью функции логарифма:

i = log 2 N.

Задание 4.

Сколько информации несет сообщение о том, что из колоды карт достали карту красной масти?

Задание 5.

Проводятся две лотереи «4 из 32» и «5 из 64».

Сообщение о результатах, какой из лотерей

несет больше информации?

1 вариант решения:

Вытаскивание любого номера из лотерейного барабана – события равновероятные.

Поэтому в первой лотерее количество информации в сообщении об одном номере равно 5 бит (2 5 = 32), а во втором – 6 бит (2 6 = 64).

Сообщение о 4-х номерах в первой лотерее несет 5 * 4 = 20 бит.

Сообщение о 5-ти номерах второй лотереи несет 6 * 5 = 30 бит.

Следовательно, сообщение о результатах второй лотереи несет больше информации, чем первой.

2 вариант решения:

Выбор первого шара производится из 32-х шаров в барабане.

Результат несет 5 бит информации.

Но 2-й шар будет выбираться уже из 31 номера, 3-й – из 30 номеров, 4-й – из 29 номеров.

Значит, количество информации, которое несет 2-й номер, находится из уравнения 2 i = 31 (i = 5,95420 бит).

Для 3-го номера 2 i = 30 (i = 4,90689 бит).

Для 4-го номера 2 i =29 (i = 4,85798 бит).

В сумме получаем:

5 + 4,95420 + 4,90689 + 4,85798 = 19, 71907

Аналогично и для второй лотереи.

Задание 6.

В течение четверти ученик получил 100 оценок.

Сообщение о том, что он получил четверку, несет 2 бита информации.

Сколько четверок ученик получил за четверть?

Задание 7.

Вы подошли к светофору, когда горел желтый свет.

После этого загорелся зеленый.

Какое количество информации вы при этом получили?

Задание 8.

в школьной библиотеке 16 стеллажей с книгами.

На каждом стеллаже 8 полок.

Библиотекарь сообщил Пете, что нужная ему книга находится на пятом стеллаже на третьей сверху полке.

Какое количество информации библиотекарь передал Пете?

Задание 9.

При угадывании целого числа в некотором диапазоне было получено 6 бит информации.

Сколько чисел содержится в этом диапазоне?

Задание 10

Сообщение о том, что Петя живет во втором подъезде, несет 3 бита информации.

Сколько подъездов в доме?

Алфавитный подход к определению количества информации

Существует и другой способ измерения количества информации – алфавитный.

Это - измерение количества информации в тексте (символьном сообщении), составленном из символов некоторого алфавита.

К содержанию текста такая мера информации отношения не имеет.

Поэтому такой подход можно назвать объективным , то есть не зависящим от воспринимающего его субъекта.

Алфавитный подход удобен при подсчете количества информации, хранимого, передаваемого и обрабатываемого техническими устройствами.

Устройствам нет дела до содержательной стороны сообщений.

Компьютеры, принтеры, модемы работают не с самой информацией а с ее представлением в виде сообщений.

Оценить информационные результаты их работы как полезные или бесполезные может только человек.

Алфавит

Алфавит – конечное множество символов, используемых для представления информации.

Мощность алфавита

Число символов в алфавите называется мощностью алфавита .

Чем меньше знаков в используемом алфавите, тем длиннее сообщение.

Так, например, в алфавите азбуки Морзе всего три знака (точка, тире, пауза), поэтому для кодирования каждой русской или латинской буквы нужно использовать несколько знаков, и текст, закодированный по Морзе, будет намного длиннее, чем при обычной записи.

Пример:

Сигнал SOS : 3 знака в латинском алфавите;

11 знаков в алфавите Морзе: ··· пауза – – – пауза ··· .

Минимальная мощность алфавита

Минимальная мощность алфавита , пригодного для передачи информации, равна 2 .

Такой алфавит называется двоичным алфавитом .

Информационный вес символа в двоичном алфавите легко определить.

Поскольку

2 i = 2,

то i = 1 бит

Итак, один символ двоичного алфавита несет 1 бит информации.

1 бит – исходная единица измерения информации.

Алфавитный подход

N = 2 i

I c =K*i

Ic – информационный объем сообщения

К – количество символов в сообщении

N – мощность алфавита (количество символов в нем)

i - информационный объем 1 символа

Измерение информации

Вся информация, обрабатываемая компьютером, представлена двоичным кодом с помощью двух цифр – 0 и 1 .

Эти два символа 0 и 1 принято называть битами

Бит – наименьшая единица измерения объема информации.

Мощность русского алфавита

Каждая буква русского алфавита

(если считать, что е = ё)

несет информацию 5 бит

(32 = 2 5 ).

Байт

Компьютер для внешнего представления текстов и другой символьной информации использует

алфавит мощностью

256 символов.

Байт вводится как информационный вес символа из алфавита мощностью 256.

Так как

256 = 2 8 ,

то 1 байт = 8 бит .

Производные единицы измерения информации

Килобайт больше байта в 1024 раза, а число 1024 = 2 10 .

При приближенных вычислениях можно использовать коэффициент 1000.

1 Мегабайт (1 Мб) = 1024 Кбайт ≈ 1000 Кб

1 Гигабайт (1Гб) = 1024 Мбайт ≈ 1000 Мб

1 Терабайт (1Тб) = 1024 Гигабайт ≈ 1000 Гб

1 Петабайт (Пб) = 1024 Терабайт ≈ 1000 Тб

Единицы измерения

Переведите

• 3,2 Гигабайт в Мегабайты
• 2078 байт в Килобайты
• 16 бит в байты

Задачи для закрепления

Задача 1.

Книга, набранная с помощью компьютера, содержит 159 страниц.

На каждой странице – 40 строк.

В каждой строе – 60 символов.

Каков объем информации в книге?

Решение:

Мощность компьютерного алфавита равна 256.

Один символ несет 1 байт информации.

Значит, страница содержит 40 * 60 = 2400 байт информации.

Объем всей информации в книге (в разных единицах):

2400 * 150 = 360 000 байт

360000/1024 = 351,5625 Кбайт

351,5625/1024 = 0,3433 Мбайт.

Задачи для закрепления

Задача 2.

Объем сообщения, содержащего 2048 символов, составил 1/512 часть Мбайта.

Каков размер алфавита, с помощью которого записано сообщение?

Решение:

Переведем информационный объем сообщения в биты:

I = 1/512 * 1024 * 1024 * 8 = 16384 бит.

Поскольку такой объем информации несут 1024 символа (К), то на один символ приходится:

i = I/K = 16384/1024 = 16 бит.

Отсюда следует, что размер (мощность) использованного алфавита равен 216 = 65536 символов.

Задание 11

Задача 1.

Алфавит племени Мульти состоит из 8 букв.

Какое количество информации несет одна буква этого алфавита?

Задача 2.

Сообщение, записанное буквами из 64-х символьного алфавита, содержит 20 символов.

Какой объем информации оно несет?

Задание 12.

Задача 2.

Племя Мульти имеет 32-х символьный алфавит.

Племя Пульти использует 64-х символьный алфавит.

Вожди племен обменялись письмами.

письмо племени мульти содержало 80 символов, а письмо племени Пульти – 70 символов.

Сравните объем информации, содержащейся в письмах.

Задание 13.

Задача 4.

Информационное сообщение объемом 1,5 Кбайт содержит 3072 символа.

Сколько символов содержит алфавит, при помощи которого было записано это сообщение?

Задача 5.

Сколько килобайтов составляет сообщение, содержащее 12288 битов?

Задание 14

Задача 6.

Сколько килобайтов составит сообщение из 384 символов 16-ти символьного алфавита?

Задача 7.

Для записи текста использовался 256-символьный алфавит.

Каждая страница содержит 30 строк по 70 символов в строке.

Какой объем информации содержат 5 страниц текста?

Задание 18.

Задача 8.

Сообщение занимает 3 страницы по 25 строк.

В каждой строке записано по 60 символов.

Сколько символов в использованном алфавите, если все сообщение содержит 1125 байтов?

Задание 16.

Задача 9.

Для записи сообщения использовался 64-х символьный алфавит.

Каждая страница содержит 30 строк.

Все сообщение содержит 8775 байтов информации и занимает 6 страниц.

Сколько символов в строке?