вопрос о статистике

[mitrius]

Друзья, а какой статистической мерой определяется степень, так скажем, кучности данных?

Вот, допустим, один ряд данных разделяется по шести кучкам следующим образом: 95, 2, 8, 4, 1, 1.

Другой делится на большее число кучек и распределяется так: 6, 4, 2, 2, 2, 1, 1, 1, 1, 1, 1, 1, 1. Понятно, что у него разброс больше и кучность меньше. Нужно число, из которого это непосредственно видно и такие ряды можно отсортировать :)

Сумма рядов и число кучек могут быть каким угодно.

Comments

[kohomologie.livejournal.com]

Как я понимаю, подойдёт энтропия дискретного распределения вероятностей -∑p_ilog₂ p_i, где вероятности оцениваются из частот попадания в ту или иную кучку, то есть в первом случае у нас вероятности 95/111, 2/111, 8/111, 4/111, 1/111, 1/111.

[xgrbml.livejournal.com]

Может, попросту дисперсию?

[kohomologie.livejournal.com]

Дисперсию чего? Как я понимаю, у нас значением случайной величины является номер кучки, а не вещественное число, а номер кучки задан произвольно и считать, что попадание в кучки 1 и 2 — это большая кучность, чем попадание в кучки 1 и 5, мы не можем. Если считать дисперсию размера кучки, то ситуация, когда у нас 100 кучек по 1, даст нулевую дисперсию, и одна кучка в 100 — тоже, но кучность во втором случае гораздо выше.

[ymblanter.livejournal.com]

Надо, разумеется, по убыванию расположить, иначе вычисление дисперсии не имеет никакого смысла.

[xgrbml.livejournal.com]

А, тогда я неправ.

[mitrius.livejournal.com]

Вопрос на понимание: верно ли, что для ряда 1, 1, 1 и 1 энтропия равна 2? Четыре четверти двоичного логарифма от 1/4, то есть -2, и знак поменять.

[ymblanter.livejournal.com]

Да.

[mitrius.livejournal.com]

ура :)

[kohomologie.livejournal.com]

Верно. А для n одинаковых кучек — log₂n.

[ymblanter.livejournal.com]

Дисперсия распределения?

[mitrius.livejournal.com]

спасибо
а энтропия (см. выше) не годится?

[l-i-d-y-a.livejournal.com]

Не-не, дисперсия - это мера отклонения от среднего значения. Тебе нужна именно энтропия, она как раз определяет степень упорядоченности: все лежит в одной кучке - максимальный порядок, нулевая энтропия. Все раскидано как попало по разным кучкам - высокая энтропия.

[mitrius.livejournal.com]

спасибо!

[ymblanter.livejournal.com]

Годится, ниже всё верно написали.

[mitrius.livejournal.com]

это она?

[xgrbml.livejournal.com]

Вроде да.

[ymblanter.livejournal.com]

Если и она, то записанная в каком-то странном виде. Надо расположить кучки по убыванию. Eсли в кучке i имеется X_i предметов, надо вычислить вероятности p_i = X_i/(\sum_i X_i), тогда D = \sum_i p_i X_i^2 - (\sum p_i X_i)^2.

[a-sch.livejournal.com]

А с какой целью, хотя бы примерно?
Грубо говоря, дисперсия - разброс данных относительно среднего, а энтропия -- мера неравномерности (она учитывает не значения, а только вероятности, и максимальна, если вероятности всех значений одинаковы). И надо учитывать, что рассматриваются только оценки этих величин, а не они сами.

[mitrius.livejournal.com]

да, кажется, нужна именно мера неравномерности независимо от суммы, т. е. энтропия
спасибо!

[riftsh.livejournal.com]

Если кучкующиеся данные однородны, в качестве очень простой меры можно использовать индекс Херфиндаля.

Если нет, то один из diversity indices.