“Если имеется система долей, например, распределение количественного показателя с относительными частотами (в долях), то общая энтропия вариационного ряда равна сумме частных энтропий по классам распределения” [Плохинский, 1982]. Таким образом, задачу выбора границ интервалов можно определить как, в некотором смысле, минимизацию совокупной энтропии, получающейся в результате группировки.

Поскольку нет единых теоретических оснований для оценки качества группировки, то принципиально допустим любой формальный алгоритм, удовлетворяющий определенным требованиям. Можно выделить следующие основные стратегии разбиения на градации:

• внутрение (основанные только на свойствах распределения самой разбиваемой выборки);
• с использованием внешнего дополнения (например, использующие свойства распределения другой выборки, сопряженной с анализируемой).

Примером оптимального решения с использованием внутреннего критерия является минимизация функционала [Браверман, Мучник, 1983]:

, (6.33)

где обозначения те же, что и при расчете корреляционных отношений (6.15)-(6.18).

Все методы, использующие внутренние критерии, предполагают локальный анализ закономерности частотного распределения признака раздельно для каждой выборки X или Y без учета их взаимной статистической обусловленности, что с точки зрения теории информации нельзя считать вполне адекватным.

Предположим, что каждая величина y_i , i = 1,2,…,m, принимающая значения на отрезке [a, b], принадлежит к одному из n классов измерений D₁, D₂, …, D_n (это могут быть, например, водоемы, в которых проводились измерения, сезонные признаки или классы качества вод).

Введем разбиение d диапазона [a, b] на заранее заданное количество интервалов k, границы которых заранее не определены. Обозначим через p_j(y|D_s) частоту попадания значения показателя Y из подмножества {y}_Ds в j-й диапазон.

Тогда для двух классов D_s и D_l в качестве наилучшего разбиения диапазона [a, b] выбирается такое, которое максимизирует значение меры дивергенции, введенной С. Кульбаком [1967]:

В общем случае m классов максимизируется величина:

Получаемое таким образом разбиение вместе с вероятностями появления значений признака в соответствующих интервалах p_j(y|D_s) называется интервальной структурой [Генкин, 1999].

Для двух признаков Y₁ и Y₂ , зная разбиения d ₁ и d ₂ для каждого из них, естественным образом строятся оценки р_l(Y₁,Y₂|D_s) – частоты попадания пары значений анализируемых признаков в прямоугольники со сторонами, равными интервалам соответствующих разбиений. Множество прямоугольников, вместе с оценками вероятностей попадания в них пары значений признаков р_l(Y₁,Y₂|D_s), называется бинарной (матричной) структурой.

Поскольку интервальные и бинарные структуры мало чувствительны к систематическим (а частично и к случайным) ошибкам наблюдений, эти методы нашли широкое применение при обработке клинико-лабораторных признаков. Большой вклад в развитие интервальных методов при решении медико-биологических задач внесли Е.В. Гублер и А.А. Генкин, воплотившие и развившие эти информационные структуры в среде Оболочки Медицинских Интеллектуальных систем [Генкин, 1999].

где f_i, q_i – частоты попадания в i-й интервал примеров сравниваемых выборок, m₁, m₂ – численность обеих выборок. C.Кульбаком [1967] было показано, что статистика

основанная на дивергенции J, имеет распределение c ² с (k - 1, 1) степенями свободы, что позволяет использовать ее для проверки нулевых гипотез. Критерий различия двух выборок J’(x, 1:2), использующий информационную меру Кульбака, предлагается [Генкин, 1999] назвать J-критерием, а соответствующий ему уровень значимости обозначать P_J. А.А. Генкиным приводятся формулы, распространяющие использование меры Кульбака на случай сравнения n выборок, однако практических примеров техники такого анализа нам найти не удалось.

В.Н. Вапником с соавторами [Алгоритмы и программы.., 1984] представлен более общий алгоритм нахождения наилучшего разбиения, основанный на минимизации шенноновской энтропии и определяющий как границы диапазонов, так и оптимальное число градаций k.

Рассмотрим выборку значений общей численности хищников-хватателей N_h, причем каждой гидробиологической пробе поставлен в соответствие класс качества воды по шестибальной шкале [ГОСТ 17.1.3.07–82; Драчев, 1964]. Найденные границы интервалов разбиения на 5 интервалов с использованием различных стратегий и критериев представлены в табл. 6.7.

Разделим все множество наблюдений из численностей хищников-хвателей N_h на две выборки: измерения на "чистых" станциях с классом качества вод 3 и менее и измерения на "грязных" станциях. Традиционное сравнение средних с использованием t-критерия Стьюдента не выявляет статистических различий между этими выборками (р = 0.45). Осуществим такое разбиение всей области варьирования значений численности на 5 интервалов, которое обеспечивало бы максимальную расщепляющую способность обоих подмножеств, т.е. наибольшую суммарную разность частот (пересчитанную в доли J) в ячейках таблицы сопряженности. Определение оптимального вектора границ диапазонов осуществлялось нами по алгоритму случайного поиска до тех пор, пока значение информационной меры Кульбака J не перестает возрастать (см. табл. 6.8).

В первом столбце табл. 6.8 – интервалы, найденные компьютером, наилучшим образом подчеркивающие различие вариабельности численности хищников в рассматриваемых группах. Во втором и третьем столбцах – частота (в скобках – относительная частота) наблюдений численности из соответствующих интервалов. Справа приводятся средние арифметические, не различающиеся по t-критерию, тогда как мера Кульбака J' свидетельствует о значимом (p_J < 0.00001) изменении численности N_h в зависимости от уровня гидрохимического загрязнения на станциях наблюдения.

С использованием J-критерия, предложенного А.А. Генкиным, для всех проанализированных таксономических подмножеств видов были установлены статистически значимые (p_j < 0.0003) отличия между группами с разным уровнем загрязнения.

Поскольку для видов Tanypodinae предыдущие методы ставили под сомнение эту гипотезу, можно предположить, что J-критерий (впрочем, как и c ²) склонен к гипердиагностике вероятности различий между выборками, особенно, в случае большого их объема.

Самый простой тип – линейные структуры, когда частоты для одного условия монотонно возрастают (убывают), а для другого – монотонно убывают (возрастают), т.е изменяются разнонаправлено. Более сложны для интерпретации часто встречаемые реципрокные структуры, в которых нет монотонности, но частоты отрицательно коррелируют. Например, интервальные структуры, у которых частоты для минимальных и максимальных значений статистически неразличимы, а значения центральных частот реципрокны, называются реципрокными в центре (в фитоценологической ординации такие структуры носят названия “клинов”: топоклины, термоклины, галоклины, ценотопоклины и проч.) В некоторых типах структур реципрокность четко выражена только в двух диапазонах изменения признака, справа или слева.

Дальше

Назад

Начало

Конец

Список