Количество информации как мера уменьшения неопределенности знания

Тема: Количество информации как мера уменьшения неопределенности знания.

Цель:

Доказать, что количество информации является мерой уменьшения неопределенности знания.

Задачи:

• Установить связь между сообщениями и знаниями.
• Установить связь между неопределенностью знания и единицей количества информации.
• Получить формулу связи между количеством сообщений и количеством информации в сообщении.
• Рассчитать информационный объем разных сообщений.

Информация для человека -

это знания, которые он получает из различных источников.

Древнегреческий способ изображения процесса познания

Вне круга – незнание, круг – знание, окружность – граница между знанием и незнанием.

Например:

Объем знаний выпускника школы гораздо больше, чем объем знаний первоклассника, однако и граница его незнания значительно больше. К примеру, первоклассник ничего не знает о законах физики и поэтому не осознает недостаточность своих знаний, тогда как выпускник школы при подготовке к экзамену по физике может обнаружить, что существуют физические законы, которые он не знает и не понимает.

Информация, которую получает человек, считается мерой уменьшения неопределенности знаний.

Если некоторое сообщение приводит к уменьшению неопределенности наших знаний, то можно говорить, что такое сообщение содержит информацию.

Классический пример «Бросание монеты»:

Бросаем монету на ровную поверхность. С равной вероятностью произойдет одно из двух возможных событий – выпадет решка или выпадет орел.

Перед броском существует неопределенность наших знаний (возможны два события), как упадет монета предсказать невозможно.

После броска наступает полная определенность, так как получаем зрительное сообщение, что монета находится в определенном положении, например, «решка».

Это событие приводит к уменьшению неопределенности наших знаний в 2 раза, так как до броска мы имели 2 вероятных события, а после броска – только одно, то есть в 2 раза меньше.

Очень часто встречаются ситуации, когда может произойти некоторое количество равновероятных событий.

• Например: Вы решаете контрольную работу по алгебре. У вас до проверки работы учителем существует 4 равновероятных события – получите вы отметку «5», «4», «3» или «2» .
• Или когда бросаете шестигранный кубик – 6 равновероятных событий.
• Или при сдаче устного экзамена по любому предмету вытягиваете один билет из 25 возможных – 25 равновероятных событий.

Чем больше количество возможных событий, тем больше начальная неопределенность и соответственно тем большее количество информации будет содержать сообщение о результатах опыта.

Единицы измерения

Для количественного выражения любой величины необходимо определить единицу измерения.

За единицу измерения количества информации принимается такое количество информации, которое содержит сообщение, уменьшающее неопределенность в 2 раза. Такая единица названа «бит»

8 бит = 2 3 бит = 1 байт.

Компьютер оперирует числами в двоичной системе счисления, поэтому в кратных единицах измерения количества информации используется коэффициент 2 n .

1 Кбайт = 2 10 байт = 1024 байт.

1 Мбайт = 2 10 Кбайт = 1024 Кбайт.

1 Гбайт = 2 10 Мбайт = 1024 Мбайт.

N – количество возможных сообщений I – количество информации в одном сообщении

Задачи

• Сколько бит информации содержится в сообщении объемом ½ килобайта?
• В рулетке общее количество лунок равно 32. Какое количество информации (с точки зрения вероятностного подхода) мы получаем из зрительного сообщения об остановке шарика в одной из лунок?

В зоопарке 32 обезьяны живут в двух вольерах, А и Б. Одна из обезьян – альбинос (вся белая). Сообщение «Обезьяна-альбинос живет в вольере А» содержит 4 бита информации. Сколько обезьян живут в вольере Б?

1) 4 2) 16 3) 28 4) 30

.

Решение

информация в 4 бита соответствует выбору одного из 16 вариантов, …

… поэтому в вольере А живет 16 часть всех обезьян (это самый важный момент !)

всего обезьян – 32, поэтому в вольере А живет

32/16 = 2 обезьяны

поэтому в вольере Б живут все оставшиеся

32 – 2 = 30 обезьян

правильный ответ – 4

В корзине лежат 32 клубка шерсти, из них 4 красных. Сколько бит информации несет сообщение о том, что достали клубок красной шерсти?

1) 2 2) 3 3) 4 4) 32

красные клубки шерсти составляют 1/8 от всех, …

поэтому сообщение о том, что первый вынутый клубок шерсти – красный, соответствует выбору одного из 8 вариантов

выбор 1 из 8 вариантов – это информация в 3 бита (по таблице степеней двойки)

правильный ответ – 2.

1)Двое играют в «крестики-нолики» на поле 4 на 4 клетки. Какое количество информации получил второй игрок, узнав ход первого игрока?

1 бит 2) 2 бита 3) 4 бита 4) 16 бит

2)За четверть Василий Пупкин получил 20 оценок. Сообщение о том, что он вчера получил четверку, несет 2 бита информации. Сколько четверок получил Василий за четверть?

1) 2 2) 4 3) 5 4) 10

Рефлексия

• Какая цель стояла перед тобой на уроке?
• На какие знания, полученные ранее, ты опирался? Какие новые законы, идеи, формулы, правила ты усвоил на уроке?
• Какова главная мысль, вывод урока
• Какую оценку ты бы себе поставил, учитывая разницу в приобретенных тобой знаниях и материалом, выданным на уроке?

Домашнее задание

• § 2.2