Если совсем по-простому, то это мера хаоса некой системы. Вводя такую меру, мы можем сравнивать упорядоченность. Простейший пример - если в шахматы будут играть обезьяны, не понимая что они делают, энтропия доски будет существенно выше, чем в случае, когда играют двое гроссмейстеров.
Как может быть бинарным хаос с бесконечной вариабельностью?
"В чём измеряется?" - логарифм числа возможных микросостояний системы.
Полный порядок возможен, если конфигурация системы неизмена. А вот что вообще значит полный хаос? Хаос - отсутствие порядка, что здесь может быть полным? Наверное, если рассматривать систему "объекты - определенные положения объектов в пространстве", то полный хаос будет тогда, когда всё объекты не будут занимать свои положения. Полный хаос: 2 носка, 1 трусы и все на полу.
Хотя скорее уместен вопрос "как измеряется", чем "в чём...".
Нулю скорее она будет равна при игре двух компьютерных программ
Мне кажется, что энтропия будет равна нулю в примере с шахматами, если два человека абсолютно точно воспроизведут прошлую игру. Хотя здесь уже играет роль информационная энтропия. Обычная энтропия больше подходит для описания газов или твёрдых веществ(у газов энтропия во много раз больше, чем у твёрдого вещества).
нам в институте говорили, что это "мера неопределенности объекта")
Я сильно ошибусь если скажу, что энтропия выражается в количестве возможных изменение в конкретном пространстве? Например, при гроссмейстерах играющих в шахматы энтропия первого хода будет равна 12 (количеству допустимых ходов)
"Например, при гроссмейстерах играющих в шахматы энтропия первого хода будет равна 12 (количеству допустимых ходов)"
Оно будет равно далеко не 12. По 2 хода каждой пешкой и по 2 хода каждым конем - итого 8*2+2*2= 20 возможных ходов.
Она никогда не будет равна нулю пока есть варианты.
Отвечу сугубо в психологическом аспекте.
Как подчёркивают современные специалисты в области интегральной психологии, эффективность общения между двумя людьми определяется тем, насколько им удалось исключить из своего общения "третьего".
Этот "третий" - это косность, нетерпимость, предубеждённость, стереотипность мышления.
Этот "третий" - и есть энтропия, с точки зрения психолога.
А почему сжиматься начнет?
По-простому? Это мера беспорядочности, бесструктурности. Величина, обратная информации, которая может рассматриваться как раз как мера упорядоченности.
"Пока не придёт Мама" - страшно звучит))