Принципи статистичного кодування зображень

Поняття про ефективному кодуванні

У звичайних телевізійних і фототелеграфним системах зображення представлені електричним сигналом, що яскравості кожного елемента зображення відповідає певне значення напруги. Кожен елемент зображення передається незалежно, і не враховуються статистичні зв'язки між елементами. Внаслідок цього по телевізійному або фототелеграфному каналу зв'язку передається в дійсності значно меншу кількість інформації за одиницю часу, ніж могло б бути передано. Можна сказати, що ці канали зв'язку працюють з недовантаженням, використовуються неефективно.
Теорія інформації дозволяє кількісно оцінити, наскільки ефективно використаний канал зв'язку. Нехай, наприклад, за одиницю часу по каналу може бути передано n незалежних відліків, що мають т. градацій яскравості.* Кожен з цих відліків може в граничному випадку нести log2m дв. од. інформації, а всього по каналу зв'язку можна передати
З = nlog2m дв. од./сек. (40)
Цю величину називають ємністю, або пропускною здатністю, дискретного каналу без шумів.
Але як було показано у другому розділі, в реальних m-градаційних зображеннях кількість інформації Н (ентропія), що припадає в середньому на один елемент, що суттєво менше, ніж максимально можливе значення Нмакс=log2m. Кількість інформації, що надходить в середньому за секунду в канал зв'язку (nH), буде набагато менше того, що міг би передати канал,
nH<C
У теорії інформації встановлено, що пропускна здатність каналу зв'язку може бути узгоджена зі швидкістю подачі інформації від джерела повідомлень в канал, якщо повідомлення, що надходять від джерела, кодувати з урахуванням їх статистичних властивостей.
Відомим прикладом коду, побудованого з урахуванням статистики, є телеграфний код Морзе. У цьому коді більш короткі комбінації сигналів, як правило, відповідають більш часто зустрічається буквах. Цікаво відзначити, що мова являє собою в певному сенсі статистичний код. Найбільш часто зустрічаються слова (сполучники, прийменники, займенники, назви найуживаніших предметів), як правило, більш короткі.
Теорія і методи статистичного кодування посилено розробляються в зв'язку із завданнями техніки зв'язку, автоматики, рахункової техніки. Статистичне кодування дозволяє представити повідомлення в більш економному вигляді, більш ефективно використовувати канал зв'язку, наданий для передачі повідомлення, або накопичувач, наданий для його зберігання. Таке кодування як би є вилученням інформації з повідомлення.
Всі ці завдання, розв'язувані статистичними кодуванням, мабуть, мають першорядне значення для аналізаторних систем, що сприймають інформацію з зовнішнього світу, зокрема, для зорового аналізатора. Уявімо собі, що зоровий аналізатор не володів би здатністю статистичного кодування потоку надходять через сітківку повідомлень і був би в цьому сенсі подібний до звичайної телевізійної системи, не извлекающей інформації із зображень, а лише переносить зображення з одного місця в інше і в деяких випадках записуючої їх на будь-які накопичувачі (наприклад, на кіноплівці або магнітній стрічці). Тоді, навіть якщо обмежитися свідомо заниженими оцінками, через зорову систему доставлялася б із зовнішнього світу принаймні близько 1 млн. відліків яскравості елементів зображення (за кількістю волокон зорового нерва) за час порядку 0.1 сек. (критична тривалість). Вже за кілька хвилин число таких відліків досягло б величини порядку кількох мільярдів і перевищило б число нейронів у корі великих півкуль головного мозку. Якщо припустити, як це часто роблять, що кожний нейрон може знаходитися тільки в двох станах, то неважко переконатися, що вся ємність мозку буде витрачена на що приходять зорові повідомлення протягом декількох хвилин.
Навряд чи можуть виникнути які-небудь сумніви щодо того, що в зоровій системі дійсно здійснюється ефективне кодування зображень. Однак біофізика не має ще достатніми відомостями про справжні механізми такого кодування. Є лише кілька цікавих фізіологічних фактів, які прямо свідчать про існування в зоровій системі процесів, пов'язаних зі статистичними кодуванням. Але в основному ці процеси ще не вивчені, тому доводиться вдаватися до гіпотез, випливають із загальних фізіологічних і кібернетичних уявлень.

* Згідно з теоремою Котельникова (див. другий розділ), це число незалежних відліків пов'язано з смугою частот пропускання каналу зв'язку W співвідношенням n=2W.