Теория:
Информация — это знания, которые получает человек.
С позиции содержательного подхода сообщение, которое информирует об исходе некоторого события, снимает неопределённость знания человека об этом событии.
Сообщение несёт больше информации, в случае если изначально была большая неопределённость знания.
Неопределённость знания — это количество возможных вариаций ответа на поставленный вопрос.
Подбрасывая монету, мы не знаем, что выпадет: «орёл» или «решка» — это равновероятные события. После броска нам известен исход события — имеем полную определённость. Неопределённость знания уменьшается в \(2\) раза.
Информация — это снятая неопределённость знания человека об исходе некоторого события (Клод Шеннон).
Сообщение, которое уменьшает неопределённость знания в \(2\) раза, несёт \(1\) бит информации.
Обрати внимание!
«Главная формула» информатики (формула Хартли):
, где \(N\) — неопределённость знания (количество возможных исходов какого-то события); \(i\) — количество информации (в битах) в сообщении об одном из \(N\) исходов.
Следовательно, для нахождения количества информации \(i\), которое содержится в сообщении об одном из \(N\) равновероятных исходов какого-то события, нужно воспользоваться формулой: .
Пример:
1) в доме \(16\) этажей, на каждом этаже по \(4\) квартиры. Какое количество информации несёт сообщение о том, что Игорь живёт на \(7\)-м этаже в квартире № \(27\)?
Решение:
всего в доме \(=\) 64 квартиры, т. е. \(N\) \(=\) 64.
Используем формулу :
\(i\) \(=\) \(=\) \(6\) бит.
Ответ: \(6\) бит.
2) Загадали некоторое целое число в определённом диапазоне. Угадывая эта число, получили \(7\) бит информации. Сколько чисел содержит диапазон?
Решение:
\(i\) \(=\) \(7\), , значит, \(N\)\(=\) \(=\) 128.
Ответ: 128 чисел.