Оглавление

12. Оценка энтропий классов Гельдера в равномерной метрике

    Для заданных функции типа модуля непрерывности  и числа  определим класс 

.

    Как следует из локальной компактности классов Гельдера, класс  будет компактным (относительно равномерной метрики).

    Будем считать  строго возрастающей при  (хотя это не принципиально: можно вместо  взять каждый раз одно из решений уравнения  относительно ). Тогда справедлива

    Теорема 1. Имеет место соотношение

  ().

    Доказательство вытекает из теорем 2 и 3 и основной теоремы об энтропиях.

    Теорема 2. Для данных ф.т.м.н.  и числа  для      -энтропии выполняется неравенство

 ,

где  не зависит от .

    Теорема 3. Для данных ф.т.м.н.  и числа  для      -емкости выполняется неравенство

 ,

где  не зависит от .

 

    Доказательство теоремы  2.        Пусть  – данное число и число  такое, что .

    Выберем натуральное  так, чтобы  ,  и возьмем точки

.

    Хотим оценить .  Для этого построим «экономно» -покрытие множества  в метрике .

    Элементы покрытия будем строить исходя из значений функций из  в точках .

    Через   обозначим переменные, которые независимо друг от друга могут  принимать целые значения из промежутка , причем  подбирается так, чтобы выполнялись следующие  условия:

.

    Образуем множества  (элементы покрытия) таким образом: берем некоторый набор  допустимых значений и считаем, что

   (*)

 

    Заметим, что график  пересечет  каждую вертикаль  в пределах от  до . Поэтому для любой такой функции  существует хотя бы один набор (), для которого выполняется условие (*), т.е. любая функция  принадлежит хотя бы одному элементу покрытия – множеству .

    Оценим . Возьмем произвольные  и , принадлежащие одному и тому же множеству . Тогда на вертикалях  () по построению покрытия имеем  () (так как на каждой вертикали   значения  и  расположены на некотором отрезке длины ).

    Пусть теперь  и, например,  (). Тогда, так как , получим

.

    Значит, , т.е. множества  образуют -покрытие  класса .

    Оценим теперь сверху число непустых множеств вида . Для этого достаточно оценить сверху количество упорядоченных наборов (), для которых все значения  участвуют в условии (*) хотя бы для одной функции .

    Оценим количество возможных значений . По построению вертикальных разбиений отрезка  для максимального значения переменной  должны выполняться условия:

.

    Учитывая значения , получим, что самое большее .

    Оценим теперь число пар .

    Если некоторое значение  фиксировано, то ему могут соответствовать 5 значений .

    Действительно, значения переменной  мы берем вдоль вертикали ,  на которой располагаются значения  для всевозможных функций  при фиксированном значении  на одном из отрезков  на вертикали .

    Так как длина промежутка  не превосходит , в зависимости от функции  значения  могут участвовать в 5 отрезках длин  разбиения на вертикали .

    Значит, упорядоченных пар  самое большее может быть .

    Аналогично, упорядоченных троек  будет самое большее  и т.д.

    Упорядоченных наборов  будет .

    Следовательно, минимальное число  элементов в -покрытии множества  удовлетворяет неравенству

,

а значит,

.

 

    Оценим . Имеем (по выбору  и )

.

При достаточно малых  получим

,

  .

    У нас . Тогда , если существует обратная функция ; в общем случае можно считать, что  – это одно из значений  таких, что . Значит, найдется   ,  не зависящее от , такое, что .

    Доказательство теоремы 3.         Пусть, как и выше,    

и пусть ,  ( можно считать достаточно малым, чтобы возможно было разбить отрезок  на части длины ).

    Обозначим .        Тогда

   .

    Возьмем точки   и середины  частичных отрезков  . Построим функции  

    Ясно, что , , .

    Составим теперь семейство  из функций  и сумм всевозможных их сочетаний. Получаются функции следующего вида с различным количеством пиков:

    Оценим число различных функций множества :

функций, имеющих 1 пик,  (с учетом );

функций, имеющих 2 пика, ;

………………………………….

функций, имеющих   пиков, .

    Значит, с учетом тождественного нуля всего таких функций .

    Оценим расстояния между любыми разными функциями  из :

.

    Следовательно, функции из  образуют -цепь и в этой цепи более  элементов. Поэтому

.

    Здесь, как и выше,  -  одно из решений уравнения . Отсюда уже легко следует требуемое неравенство.