Разработка урока по информатике по теме "Алфавитный подход к определению информации. Формула Шеннона"

Тема: Алфавитный подход к определению информации. Формула Шеннона.

Цели: - формирование представления об алфавитном подходе к определению количества информации;

- развитие логического мышления, расширения кругозора учащихся;

- воспитание информационной культуры.

Ход урока

1. Организационный момент.

2. Постановка цели.

3. Фронтальный опрос: 1) понятие информации;

2) свойства информации;

3) количество информации как мера уменьшения неопределенности знаний;

4) единицы измерения количества информации.

1. Объяснение нового материала.

Алфавитный подход к определению информации

Вы научились определять количество информации, которое содержится в сообщениях, уменьшающих неопределенность наших, т.е. мы рассматривали информацию со своей точки зрения – с позиции человека. Для нас количество информации зависит от ее содержания, понятности и новизны. Однако любое техническое устройство не воспринимает содержание информации. Здесь не работают «неопределенность знаний» и «вероятность информации». Поэтому в вычислительной технике используется другой подход к измерению информации – алфавитный.

Алфавитный подход к измерению информации позволяет определить количество информации, заключенной тексте. Алфавитный подход является объективным, т.е. он не зависит от субъекта (человека), воспринимающего текст.

Множество символов, используемых при записи текста, называется алфавитом. Полное количество символов в алфавите называется мощностью (размером) алфавита. Если допустить, что все символы алфавита встречаются в тексте с одинаковой частотой (равновероятно), то количество информации, которое несет каждый символ, вычисляется по формуле:

где — мощность алфавита,

– информационный вес одного символа.

Так, в русском алфавите, если не использовать букву ё, количество событий (букв) будет = 32. Тогда битов. Каждый символ несет 5 бит информации. А алфавит клавиатуры содержит 256 символов (256 = 2⁸). Поэтому каждый символ клавиатуры несет 8бит. Такое количество информации называется байт.

Если весь текст состоит из символов, то при алфавитном подходе размер содержащейся в нем информации равен:

где — информационный вес одного символа в используемом алфавите,

– количество символов в тексте,

– количество информации, содержащейся в тексте (информационный объем текста).

1. Найти объем информации, содержащейся в предложении «У меня все хорошо», если известно, что мощность алфавита равна 32 символам.

1. Найти объем информации, содержащейся в предложении «У меня все хорошо», если известно, что мощность алфавита равна 256 символам.

Сравнивая полученные объемы информации, мы видим, что в первом примере информации меньше, чем во втором. Но ведь содержание не изменилось! Следовательно, при алфавитном подходе к измерению информации ее количество не зависит от содержания, а зависит от мощности алфавита и количества символов в тексте.

Правило для измерения информации с точки зрения алфавитного подхода:

1. Найти мощность алфавита –

2. Найти информационный вес одного символа i из уравнения

3. Найти количество символов в тексте –

4. Найти количество информации – (информационный объем всего сообщения)

Формула Шеннона

Существует множество ситуаций, когда возможные события имеют различные вероятности реализации. Например, если монета несимметрична (одна сторона тяжелее другой), то при ее бросании вероятности выпадения «орла» и «решки» будет различаться.

Формулу для вычисления количества информации в случае различных вероятностей событий предложил Клод Шеннон в 1948г.

,

.

Например, пусть при бросании несимметричной четырехгранной пирамидки вероятности отдельных событий будут равны:

, тогда

Этот подход к определению количества информации называется вероятностным.

Для частного, но широко распространенного случая, когда события равновероятны, применяют формулу Р. Хартли (1928г.): .

Тогда количество информации, которую мы получим при бросании симметричной и однородной четырехгранной пирамидки равно:

бита.

Т.о. при бросании симметричной пирамидки, получается большее количество информации (2бита), чем при бросании несимметричной (1,75бита).

Вывод: количество информации, которую мы получаем, достигает максимального значения, если события равновероятны.

1. Итоги. Домашнее задание: Н.Д. Угринович, стр. 78 – 82.