Цитата Сообщение от NuFunnya Посмотреть сообщение
...
информационная энтропия не может заниматься единичным символом, ибо она в этом случае по определению будет = 0%.
То есть, если я правильно понял, то некий единичный символ (читай - знак, например, буква) всегда является носителем информации. И в таком случае информация = 100%, энтропия = 0%...
Угу. Нет собственно динамики, как меры энтропии. А единичный символ/знак/понятие уже определено и статично по определению определения.
Цитата Сообщение от NuFunnya Посмотреть сообщение
...А вот сочетание нескольких символов - это уже неизвестно, все будет зависеть от адресата и адресанта, шумов канала, шумов кодирования-декодирования?...
По сути, энтропия сильно связана с "вариативным деревом восприятия", так что в академическом случае с передачей информации все верно: "источник >> канал >> приемник".

А расширенной версии обмена информацией энтропия увеличивается за счет бесконечных подтверждений кольца "обработка и выдача информации (a) >> канал >> обработка и выдача информации ((a)+/-1) >> канал >> ... >> канал >> обработка и выдача информации (n)^m >> канал >> ...", где а - первичный генератор информации, n - количество участников обработки и выдачи информации, а m - количество подтверждений и оно может быть не определено.

То есть первичная информация искажается на уровне первичного восприятия, засоряется помехами канала, искажается на входе вторичного приема, засоряется в канале при запросе подтверждения, искажается первичным генератором при восприятии и выдаче подтверждения, засоряется передачей через канал самого подтверждения (пока описывплся лишь один канал с двумя обработчиками), и передается дальше через следующий канал, будучи 4 раза искаженной и 4 раза засоренной... При многоадресной трансляции дела еще хуже: один адресант является генератором искажений (и информации ) для целого ряда адресатов, каждый из которым может оказаться в результате первых же нескольких действий не только адресатом второго порядка, но и вопринимать искаженную информацию от адресантов, которые были адресатами второго, третьего, четвертого (n-ого) порядков.

Такой вот привет детской игре "испорченный телефон".