Содержательный подход к измерению количества информации в случае не равновероятностных событий
презентация к уроку по информатике и икт (10 класс) на тему

Слайд 1

Содержательный подход к измерению количества информации Содержательный подход к измерению количества информации Содержательный подход к измерению количества информации в случае не равновероятностных событий Учитель информатики ГБОУ лицей №144: Мочалова Марина Владимировна

Слайд 2

При бросании неравносторонней (несимметричной) четырехгранной пирамиды существуют 4 различных события – выпадение каждой из граней с разной долей вероятности. Использование формулы Хартли – неправомерно! НЕРАВНОВЕРОЯТНЫЕ СОБЫТИЯ

Слайд 3

В 1948 году американский математик и инженер Клод Шеннон предложил свою формулу вычисления количества информации для событий с различными вероятностями .

Слайд 4

I = -  p i  log 2 p i i =1 где I – количество информации, содержащееся в реализации одного из N возможных не равновероятных событий (в битах); p i – вероятность отдельных i - х событий; N – общее количество возможных событий. N Формула Шеннона

Слайд 5

Формулы для частного события с номером i для случая не равновероятных событий : N i = 2 i N i =  N i – количество возможных вариантов i - го события 1 p i При решении задач этого типа часто используется частная формула i = 1о g 2 (1/ р ) где i - это количество информации в одном из N событий, р - вероятность этого события.

Слайд 6

Вероятность i - го события p i выражается в долях единицы и вычисляется по формуле: p i = К / N где К - величина, показывающая, сколько раз произошло ин­тересующее нас событие, N - общее число возможных исходов какого-то процесса .

Слайд 7

Задача 1. В корзине находятся 20 грибов. Из них 15 груздей и 5 волнушек. Какое количество информации несет сообщение о том, что достали: а ) груздь; б ) волнушку. Решение : 1. Найдем вероятность того, что достали груздь: р гр = 15 / 20 = 0,75 ; 2. Найдем вероятность того, что достали волнушку: р в = 5 / 20 = 0,25 . 3. Найдем количество информации в сообщении о вытаскивании груздя: i гр = log (1/ р гр ) = log (1/0,75) = log 2 1,3 =1,15470 бит. 4. Найдем количество информации в сообщении о вытаскивании волнушки: i в = log (1/ р в ) = log ( 1/0,25) = 1о g 2 4 = 2 бит Ответ: количество информации в сообщении о том, что из корзины достали груздь, равно 1,1547 бит. Количество информации в сообщении о том, что достали волнушку, равно 2 бит .

Слайд 8

Задача 1. В корзине находятся 20 грибов. Из них 15 груздей и 5 волнушек. Какое количество информации несет сообщение о том, что достали: а ) груздь; б ) волнушку. Ответ : количество информации в сообщении о том, что из корзины достали груздь, равно 1,1547 бит. Количество информации в сообщении о том, что достали волнушку, равно 2 бит . Проанализировав решение задачи, можно сделать вывод: чем меньше вероятность свершения события (волнушек в корзине меньше, чем груздей), тем больше количество информации содержится в этом событии .

Слайд 9

Задача 2. В озере обитает 1250 окуней, пескарей – в 2 раза больше, а карасей и щук поровну и в 2 раза меньше, чем окуней. Сколько информации мы получим, когда поймаем какую-нибудь рыбу. Решение: 1. Найдем общее количество рыб в озере: К = 1250 + 2500 + 2  625 = 5000. 2. Найдем вероятность попадания на удочку каждого вида рыб: p о =1250/5000 = 0,25 р к = 2500 /5000 = 0,5 р п = 625/5000 = 0,125 р щ = 625/5000 = 0,125 3. Найдем количество информации: I = - (0,25  log 2 0,25 + 0,5  log 2 0,5 + 0,125  log 2 0,125 + 0,125  log 2 0,125) = 1,75 бит . Ответ: мы получим 1,75 бит информации .

Слайд 10

Задача 3. (работа в парах самостоятельно, затем проверка ответа и разбор решения ) В корзине лежат шары: синие, красные, белые, зеленые, всего 32 шара. Сообщение о том, что вынули синий шар, несет 2 бит информации. Синих шаров было в 2 раза меньше, чем красных, белых и зеленых – поровну. Сколько шаров каждого цвета было в корзине ? Решение: В задаче имеют место события не равновероятностные. Используем следующие формулы: N i = 2 i N i = 1 / p i Из условия задачи i c = 2 бит. Находим р c . р c = 1 / N c N c = 2 ic N c = 2 2 = 4 р c = 1 /4 С другой стороны вероятность того, что вынули синий шар, равна р c = k c / N ( k c – количество синих шаров, N – всего шаров в корзине). Находим k c . Затем определяем количества остальных шаров. k c / 32 = 1 / 4 k c = 8 k кр = 2 * k c = 16 k з = k б = (32 – 16 – 8) / 2 = 4 Ответ : в корзине синих шаров – 8, красных – 16, белых и зеленых – по 4 шт.

Слайд 11

Задача 4. (работа в парах самостоятельно, затем проверка ответа и разбор решения ) На уроке математики Незнайку вызывают к доске в 4 раза реже, чем Винтика. Определить количество информации в сообщении о том, что к доске вызвали Винтика, если сообщение о том, что вызвали Незнайку, несет 8 бит информации . Решение. По условию задачи дано: i н = 8 бит Р в = 4 * р н Находим вероятность того, что к доске вызвали Незнайку: N н = 2 i н N н = 2 8 = 256 р н = 1 / 256 Находим вероятность того, что к доске вызвали Винтика, а затем - количество информации в сообщении о том, что к доске вызвали Винтика: Р в = 4 * р н Р в = 4 * 1 / 256 = 1 / 64 N в = 1 / Р в N в = 1 / (1 / 64) = 64 = 2 6 i в = 6 (бит ) Ответ: количество информации в сообщении о том, что к доске вызвали Винтика, равно 6 бит .

Слайд 12

Домашнее задание За четверть ученик получил 100 оценок. Сообщение о том, что он получил «пять», несет 2 бита информации. Сколько пятерок получил ученик за четверть?