Чисельне значення інформаційної ємності легко тлумачиться. Якщо інформаційна ємність виражена в двійкових одиницях, то її значення вказує на число виборів з двох можливостей, достатня для визначення того конкретного стану, в якому знаходиться накопичувач.
Пояснимо це на прикладі рис. 27. У цьому випадку інформаційна ємність буде дорівнює
З - 4 дв. од.
Це число показує, скільки відповідей «так» або «ні» достатньо отримати, щоб повністю визначити зображення. Нехай, наприклад, потрібно визначити зображення, позначене номером 9, і дозволено ставити тільки такі запитання, на які можуть піти відповіді «так» або «ні». Спочатку досить невизначена ситуація: з рівною ймовірністю може бути задумано будь-яке з 16 можливих чотириелементних двухградационных зображень. Розіб'ємо всі 16 можливих станів накопичувача на дві рівні групи (0-7 і 8-15).
На перше питання: «чи є це зображення в першій групі?» - буде відповідь «ні». Це повідомлення зменшує невизначеність: шукане зображення виявляється у другій групі, де всього 8 можливих зображень. У свою чергу розбивають цю групу на дві, по 4 у кожній, і повторюють питання. Кожен відповідь, кожний наступний вибір зменшують невизначеність. Очевидно, достатньо чотирьох відповідей («ні», «так», «так», «ні»), щоб вказати, яке з 16 можливих зображень мається на увазі.
Такий же результат вийде, якщо обходити в певному порядку, елементи зображення і про кожному питати: «Він білий?». І в цьому випадку знадобиться чотири рази зробити вибір з двох можливостей, щоб вказати на потрібне зображення. Цю послідовність виборів можна ілюструвати з допомогою так званого «кодового дерева» (рис. 28). Відповідь «ні» на перший питання означає, що обумовлене зображення знаходиться в гілці з цифрою I. Зробивши другий вибір, отримаємо відповідь «так», що відповідає гілки з цифрою 0 на наступному поверсі. Після чотирьох виборів отримаємо послідовність 1001, якраз і позначає число 9 у двійковому численні.
Рис. 28. «Кодове дерево».
Розвинена Хартлі ідея послідовних виборів із заданого числа помітних станів лежить в основі теорії інформації. Помітні стану, з яких здійснюється вибір, зазвичай називають символами, а повний набір символів - алфавіт (останнє за аналогією з випадком, коли інформація записується у вигляді буквеного тексту). В випадку, показаному на рис. 26, символами були яскравості елементів, а алфавіт був складений з чотирьох символів (біле, сіре, темно-сіре і чорне).
Певна Хартлі інформаційна ємність є кількісною характеристикою здатності фізичної системи бути носієм інформації. Однак при цьому нічого не говориться про інформацію, дійсно там міститься. Інформаційна ємність є як би характеристикою порожнього накопичувача, який може переводитися в певне число різних станів, наприклад, бути використаним для запису певного числа різних зображень. У багатьох випадках, особливо при оцінці «продуктивності» таких систем зв'язку, як фототелеграф і телебачення, обмежуються цією характеристикою. Тариф на фототелеграммы визначається величиною, пропорційною інформаційної ємності, наданої відправнику, - площею телеграфного бланка - і не залежить від того, як використана їм ця площа.
Інформаційна ємність вказує лише на граничні можливості носія інформації. Наше наступне завдання полягатиме у з'ясуванні дійсного кількості інформації, що міститься у повідомленні, зокрема інформації, що міститься в зображеннях.
