Оглавление

5. Основная теорема об энтропиях

Теорема. Пусть – метрическое пространство,

– предкомпактное подмножество и – заданное число. Тогда выполняются неравенства

.

Замечание. Можно доказать, что фактически

([1], стр. 22).

Доказательство. Эти неравенства, очевидно, будут доказаны, если докажем неравенства

.

Сначала докажем неравенство (1). Пусть образуют минимальную -сеть для . Тогда шары , …, образуют -покрытие (ибо по определению -сети ); значит, - это какое-то -покрытие множества , содержащее множеств; а могут быть -покрытия и с меньшим числом (чем ) множеств, т.е. .

Докажем неравенство (2). Возьмем любую максимальную -цепь из элементов множества . Раз , то чтобы покрыть хотя бы все эти нужно -покрытие, состоящее из больше чем множеств (так как диаметры должны удовлетворять условию ), скажем, из множеств с , где . Тогда .

Докажем неравенство (3). Возьмем все точки множества , которые образуют -цепь (при заданном ), т.е. возьмем максимальную -цепь: . Тогда какую бы точку из не взять, хотя бы для одного из этих будет выполняться неравенство (в противном случае точка входила бы в -цепь). Это означает, что точки образуют какую-то -сеть для . Но могут быть -сети с меньшим числом элементов, следовательно,

.