Заходи і кількість інформації

Відео: Інформатика. Теорія інформації: Формула Шеннона. Центр онлайн-навчання «Фоксфорд»

Вперше термін «інформація» був запропонований античними філософами і звучав як informatio - роз`яснення, виклад, обізнаність. Однак в академічних колах все ще тривають суперечки про найточнішому і повному визначенні цього слова. Наприклад, учений Клод Шеннон, що заклав основи теорії інформації, вважає, що інформація - це знята невизначеність знань суб`єкта про що-небудь. Найпростіше визначення «інформації» звучить так - це ступінь поінформованості про об`єкт.

Для того щоб визначити кількість інформації, слід ознайомитися з класифікацією заходів інформаційних даних. Всього існує три заходи інформації: синтаксична, семантична і прагматична. Розглянемо кожну міру окремо:

1. Синтаксична міра працює з даними, що не відображають смислове ставлення до об`єкта. Цей захід оперує з типом носія, способом представлення і кодування, швидкістю передачі і обробки інформації.

В даному випадку мірою є обсяг інформації - обсяг пам`яті, необхідний для зберігання даних про об`єкт. Інформаційний обсяг дорівнює кількості цифр двійковій системи, за допомогою яких закодовано розглядається повідомлення, і вимірюється в бітах.

Для того щоб визначити синтаксичну кількість інформації, звернемося до поняття ентропії - заходи невизначеності стану системи, а саме - наших знань про стан її елементів та стан системи в цілому. Тоді кількість інформації - це зміна запобіжного невизначеності системи, тобто зміна (збільшення або зменшення) ентропії.

2. Семантична міра служить для визначення змісту даних і пов`язує відповідні параметри інформації з можливістю користувача обробляти повідомлення. Це поняття отримало назву тезаурус користувача. Під тезаурусом розуміють сукупність відомостей про об`єкт, якими володіє система або користувач. Максимальна кількість інформації з точки зору семантики можливо в разі, коли весь обсяг даних зрозумілий користувачеві або системі - може бути оброблений за допомогою наявного тезауруса, - і, отже, є відносним поняттям.

3. Прагматична міра інформації вимірює цінність відомостей для досягнення певної мети. Це поняття також є відносним і має пряме відношення до здатності системи або користувача застосувати конкретний обсяг даних до конкретної проблемної області. Тому доцільно вимірювати інформацію з прагматичної точки зору в тих же одиницях виміру, що і цільову функцію.

До якісних характеристик інформації відносяться наступні показники:

- Репрезентативність - правильність відбору та подання інформації для найбільш оптимального відображення характеристик об`єкта.

- Змістовність - відношення кількості інформації в семантичному вимірі до обсягу оброблюваних даних.

- Повнота - наявність в повідомленні мінімального необхідного для досягнення мети набору відомостей.

- Доступність - виконання процедур отримання і перетворення даних користувачем або системою.

- Актуальність - ступінь збереження цінності інформації з моменту отримання до моменту використання.