Закон ципфа и фрактальная природа социальных и экономических явлений. Компьютерная помощь

слов естественного языка : если все слова языка (или просто достаточно длинного текста) упорядочить по убыванию частоты их использования, то частота n -го слова в таком списке окажется приблизительно обратно пропорциональной его порядковому номеру n (так называемому рангу этого слова, см. шкала порядка). Например, второе по используемости слово встречается примерно в два раза реже, чем первое, третье - в три раза реже, чем первое, и так далее.

История создания [ | ]

Автором открытия закономерности является французский стенографист (фр. Jean-Baptiste Estoup ), который описал её в 1908 году в работе «Диапазон стенографии» . Закон был впервые применён для описания распределения размеров городов немецким физиком Феликсом Ауэрбахом в работе «Закон концентрации населения» в 1913 году и носит имя американского лингвиста Джорджа Ципфа , который в 1949 году активно популяризировал данную закономерность, впервые предложив использовать её для описания распределения экономических сил и социального статуса .

Объяснение закона Ципфа, основанное на корреляционных свойствах аддитивных марковских цепей (со ступенчатой функцией памяти) было дано в 2005 году .

Закон Ципфа математически описывается распределением Парето . Является одним из базовых законов, используемых в инфометрии .

Приложения закона [ | ]

Джордж Ципф в 1949 году впервые показал распределение доходов людей по их размерам: самый богатый человек имеет вдвое больше денег, чем следующий богач, и так далее. Это утверждение оказалось справедливым для ряда стран (Англия, Франция, Дания, Голландия, Финляндия, Германия, США) в период с 1926 по 1936 год.

Этот закон также работает в отношении распределения городской системы: город с самым большим населением в любой стране в два раза больше, чем следующий по размеру город, и так далее . Если расположить все города некоторой страны в списке в порядке убывания численности населения, то каждому городу можно приписать некоторый ранг, то есть номер, который он получает в данном списке. При этом численность населения и ранг подчиняются простой закономерности, выражаемой формулой :

P n = P 1 / n {\displaystyle P_{n}=P_{1}/n} ,

где P n {\displaystyle P_{n}} - население города n -го ранга; P 1 {\displaystyle P_{1}} - население главного города страны (1-го ранга).

Эмпирические исследования подтверждают данное утверждение .

В 1999 году экономист Ксавье Габэ описал закон Ципфа как пример степенного закона : если города будут расти случайным образом с одинаковым среднеквадратичным отклонением, то в пределе распределение будет сходиться к закону Ципфа .

Согласно выводам исследователей по отношению к городскому расселению в Российской Федерации , в соответствии с законом Ципфа :

большинство городов России лежит выше идеальной кривой Ципфа, поэтому ожидаемая тенденция - продолжение сокращения численности и людности средних и малых городов за счёт миграции в крупные города;
соответственно 7 городов-миллионников (Санкт-Петербург, Новосибирск, Екатеринбург, Нижний Новгород, Казань, Челябинск, Омск), находящиеся ниже идеальной кривой Ципфа, имеют существенный резерв роста населения и ожидают прирост населения;
существуют риски депопуляции первого города в ранге (Москвы), поскольку второй город (Санкт-Петербург) и последующие крупные города сильно отстают от идеальной кривой Ципфа в связи со снижением спроса на рабочую силу при одновременном росте стоимости проживания, включая, прежде всего, стоимость покупки и аренды жилья.

Критика [ | ]

Американский специалист по биоинформатике предложил статистическое объяснение закона Ципфа, доказав, что случайная последовательность символов также подчиняется этому закону . Автор делает вывод, что закон Ципфа, по-видимому, является чисто статистическим феноменом, который не имеет отношения к семантике текста и имеет поверхностное отношение к лингвистике.

Среди критериев оценки качества текста основным считается его естественность. Проверку этого показателя можно провести с помощью математического метода, который обнаружил американский лингвист Джордж Ципф.

Проверка по закону Ципфа - это метод оценки естественности текста, определяющие закономерность расположения слов, где частота слова обратно пропорциональна его месту в тексте.

Первый закон Ципфа "ранг - частота"

С = (Частота вхождения слова х Ранг частоты) / Число слов.

Если взять соотношение слова на ранг частоты, то величина (С) будет неизменной, причем это верно для документа на любом языке, внутри каждой языковой группы значение будет постоянным.

Значимые для документа слова, определяющие его тематику, находятся в середине гиперболы. Слова, используемые наиболее часто, также как и низкочастотные, не несут решающего смыслового значения.

Второй закон Ципфа "количество - частота"

Частота слова и его число в тексте также связаны друг с другом. Если построить график, где Х - частота слова, Y - число слов данной частоты, форма кривой будет неизменной.

Принцип написания хорошего текста предполагает, что его необходимо сделать наиболее понятным при использовании наименьшего количества слов.

Закон показывает общее свойство для любого языка, т.к. всегда будет определенное количество наиболее часто встречающихся слов.

Проверить SEO-текст на естественность нужно обязательно, если при написании использовались ключевые слова, чтобы он был интересным и понятным для большой аудитории читателей. Также этот показатель имеет значение при ранжировании сайтов поисковыми системами, которые определяют соответствие текста ключевым запросам, распределяя слова по группам важных, случайных и вспомогательных.

Подробнее:

Зависимость между частотой встречаемости слова в тексте f, и его местом в частотном словаре (рангом) r, обратно пропорциональная. Чем больше ранг слова (чем дальше оно находится от начала словаря), тем меньше частота его встречаемости в тексте.
График такой зависимости - гипербола, которая при небольших значениях рангов очень резко спадает, а затем, в области малых значений частоты встречаемости, f, тянется очень далеко, постепенно, но очень незаметно, уменьшаясь по мере роста ранга, r.
Если частота встречаемости одного слова 4 на миллион, а частота другого - 3 на миллион, не имеет значения, что ранги этих слов различаются в тысячу раз. Эти слова употребляются настолько редко, что многие носители языка их даже не слышали.
Однако эта дальняя область примечательна тем, что слово, находящееся здесь, может очень легко многократно уменьшить значение своего ранга. Даже самое маленькое увеличение частоты встречаемости слова резко сдвигает его положение к началу частотного словаря.
В терминах этого закона мерой популярности слова является его положение в частотном словаре языка. Более популярное слово находится ближе к началу словаря, чем менее популярное.
Он отражает зависимость частоты использования слова в языке от его места в частотном словаре. Популярные слова языка употребляются чаще. С математической точки зрения, график этой зависимости является гиперболой с резким подъемом по мере приближения к началу координат и длинным, пологим, почти горизонтальным, «хвостом». БОльшая часть слов языка размещается именно в этом «хвосте». Здесь место слова в частотном словаре, если и изменяет частоту использования этого слова в языке, то совсем не на много.
Но как только положение слова в частотном словаре достигает того места на гиперболе, где по мере приближения к началу координат начинается существенный подъем кривой, ситуация изменяется. Теперь небольшое изменение частоты встречаемости слова уже не приводит к значительным изменениям его ранга, то есть положение слова в частотном словаре перестает изменяться. Значит, рост популярности слова затормозился. Для того, чтобы он продолжался, следует предпринять специальные меры для того, чтобы повысить частоту встречаемости слова. Например, если слово - название товара, необходимо потратить средства на рекламную компанию (

В процессе выборов избиратели выражают свое отношение к тем или иным политическим деятелям или партиям, отдавая свой голос за того или иного кандидата или партию. Возникает вопрос – существуют ли какие-либо закономерности, описывающие распределение голосов избирателей между различными кандидатами или партиями? Если никаких закономерностей нет, то возможны любые соотношения между числами голосов, полученных кандидатами или партиями, а также между этими числами голосов и, например, явкой избирателей или числом недействительных бюллетеней. Если же существуют определенные закономерности в распределении голосов, то возможны не все варианты их распределения. На материале многих выборов в самых различных странах была выявлена статистическая связь, существующая между числами голосов, полученных на выборах различными кандидатами и партиями. Было установлено, что эта связь описывается следующей простой зависимостью:

Если по одной оси отложить в логарифмическом масштабе число голосов N(i), полученных каждым кандидатом, а по другой оси, также в логарифмическом масштабе, место i, занятое тем же кандидатом в ходе выборов, то полученные точки с достаточным приближением располагаются вдоль прямой линии:

ln N(i) = A - B x lni (1)

Справедливость приведенного уравнения была подтверждена в серии работ российских специалистов по математической политологии (Собянин, Суховольский, 1995), выполнивших анализ результатов выборов народных депутатов России в 1990 году, выборов Президента России в 1991 и 1996 годах, а также данных о выборах в ряде стран, начиная с выборов президента Франции в 1848 году, где победил Луи-Наполеон Бонапарт.

Этот математический результат нетривиален по своей природе. Специалистам – физикам, химикам, металлургам, демографам, экологам и представителям многих других областей знания, имеющих дело с большими массивами статистических данных, хорошо известно, что указанная численная закономерность носит общий характер и описывает ситуацию "свободной конкурентной борьбы" за распределение конечного количества каких-либо условных "благ". Оказывается, все мыслимое многообразие объектов, ситуаций и причинно-следственных связей не меняет характера этой зависимости: коль скоро имеется свободная конкуренция, ее результаты в любом случае укладываются на "логарифмическую прямую" – меняются лишь константа A и крутизна наклона прямой B. И наоборот: коль скоро имеются отклонения от условий свободной конкуренции, точки неминуемо отклоняются от прямой – и тем дальше, чем значительнее "факторы несвободы". Так, например, "конкуренция" городов за численность проживающего в них населения приводит в цивилизованных странах именно к такой зависимости. Между тем, в СССР такие города, как Москва, Ленинград и некоторые другие центры значительно отклонялись от "прямой свободной конкуренции" – вследствие административных ограничений, связанных с паспортным режимом. Аналогичным образом, свободная конкуренция приводит к той же зависимости между размерами крупнейших состояний и "местом", занимаемым их владельцами в списке таких состояний – разумеется, в тех частях света, где такие списки существуют. В точности таков же известный зоологам закон распределения хищников по массе (при отсутствии антропогенных факторов), и т.д.

Впервые закономерности этого рода установил итальянский социолог и математик В.Парето, занимаясь распределением жителей страны по величине их богатства; впоследствии к подобным же выводам пришел американский лингвист Дж.К. Ципф, изучая распределение частоты употребления слов в текстах. Различные варианты написанного выше соотношения носят название закона Ципфа – Парето. Методы анализа, связанные с изучением ранговых распределений, получили широкое распространение в лингвистике, наукометрии, экологии. Соблюдение соотношения (1) для избирательного процесса означает, что существует "свободная конкуренция" всех кандидатов, имеющих возможность беспрепятственно объяснять избирателям свои политические взгляды и политическую платформу.

Выполнение закона Ципфа – Парето для избирательного процесса означает, что каждый из кандидатов, каждая из партий и политических групп избирателей, голосующих по определенному типу, обладает своей собственной политической платформой, не перекрывающейся со всеми остальными. Имеющиеся кандидаты должны перекрывать все возможные предпочтения, имеющиеся у избирателей; тогда доля избирателей, ищущих свой выбор вне предлагаемого списка кандидатов, достаточно мала, и уравнение (1) с высокой точностью описывает распределение голосов избирателей. В противном случае в распределении (1) могут возникнуть пустые "ниши", и весь анализ усложняется.

Расчет параметров A и B, входящих в уравнение (1), производится по данным о численности избирателей, голосовавших за разных кандидатов или за разные политические группы, с помощью методов регрессионного анализа. Параметр A в уравнении (1) представляет собой логарифм числа избирателей, отдавших свои голоса за кандидата-лидера. Величина B – коэффициент предпочтения – характеризует наклон прямой (1) и служит численной мерой однородности выбора избирателей. Если B = 0, это означает, что у избирателей нет никаких предпочтений одних партий или кандидатов перед другими, и что все они получили на выборах одинаковое число голосов. Напротив, при больших значениях крутизны B партии-аутсайдеры получают очень мало голосов по сравнению с партиями-лидерами (однако, на практике параметр B почти никогда не бывает больше единицы). Если же замечаются отклонения от прямой типа (1), то при сделанных выше предположениях это указывает на отсутствие условий свободной политической конкуренции. Это может быть вызвано либо наличием каких-то дополнительно действующих внешних факторов, например, запугивания избирателей возможными политическими и экономическими репрессиями в случае голосования (или неголосования) за того или иного кандидата, либо прямой фальсификацией результатов выборов при подсчете голосов в избирательных комиссиях разного уровня. На рисунке 2 приведен типичный график рангового распределения численности голосовавших на выборах в России. Как можно видеть, между численностями различных групп избирателей и рангами этих групп (т.е. местами кандидатов) в логарифмических координатах (по обеим осям) практически наблюдается линейная связь.

Тип распределения голосов, поданных за различных кандидатов или партии, помогает выявить фальсификацию результатов выборов. В простейшем случае фальсификации, если в урны подброшено какое-то число бюллетеней, заполненных в пользу какого-то кандидата или партии, то оказывается, что ранговое распределение числа голосов, поданных за отдельных кандидатов, не изображается прямой. Но если исключить данные о кандидате, в пользу которого проводились фальсификации, то для остальных кандидатов (или партий) ранговое распределение будет соответствовать теоретическому. В рассматриваемом случае можно оценить число подброшенных бюллетеней по разнице между числом голосов, полученных таким кандидатом по официальным данным, и числом, найденным из уравнения рангового распределения после исключения данных, относящихся к упомянутому кандидату. На рисунке 3 приведено распределение голосов, поданных – по данным избирательной комиссии – за кандидатов на должность главы администрации Липецкой области на выборах, состоявшихся весной 1993 года. Это распределение очевидным образом далеко от прямой. В этом случае суд, прошедший в 1995 году, подтвердил наличие фальсификаций в пользу кандидата, занявшего первое место.

Почему «Закон Ципфа» в России не работает? March 11th, 2017

«Закон Ципфа» был впервые применён для описания распределения размеров городов немецким физиком Феликсом Ауэрбахом в работе «Закон концентрации населения» в 1913 году. Он носит имя американского лингвиста Джорджа Ципфа, который в 1949 году активно популяризировал данную закономерность, впервые предложив использовать её для описания распределения экономических сил и социального статуса.

В России этот закон не работает.

Вернёмся в 1949 год. Лингвист Джордж Ципф (Зипф) заметил странную тенденцию в использовании людьми определённых слов в языке. Он обнаружил, что небольшое количество слов используется постоянно, а подавляющее большинство - очень редко. Если оценить слова по популярности, открывается поразительная вещь: слово первого разряда всегда используется вдвое чаще, чем слово второго разряда и втрое чаще, чем слово третьего разряда.

Ципф обнаружил, что это же правило действует в распределении доходов людей в стране: самый богатый человек имеет вдвое больше денег, чем следующий богач и так далее.

Позже стало понятно, что этот закон также работает в отношении размера городов. Город с самым большим населением в любой стране в два раза больше, чем следующий по размеру город и так далее. Невероятно, но закон Ципфа действовал абсолютно во всех странах мира на протяжении прошлого столетия.

Просто взгляните на список самых больших городов Соединённых Штатов. Итак, в соответствии с переписью 2010-го года население самого большого города США, Нью-Йорка, составляет 8 175 133 человека. Номер два -Лос-Анджелес с населением в 3 792 621 человек. Следующие три города, Чикаго, Хьюстон и Филадельфия, могут похвастаться населением в 2 695 598, 2 100 263 и 1 526 006 человек соответственно. Очевидно, эти числа неточны, но, тем не менее, они удивительно соответствуют закону Ципфа.

Пол Кругман, писавший о применении закона Ципфа к городам, превосходно подметил: часто экономическую теорию обвиняют в создании сильно упрощённых моделей сложной, беспорядочной действительности. Закон Ципфа показывает, что всё обстоит с точностью до наоборот: мы применяем слишком сложные, беспорядочные модели, а действительность поразительно аккуратна и проста.

Закон силы

В 1999 году экономист Ксавье Габэ написал научный труд, в которой описывал закон Ципфа как “закон силы”.

Габэ отметил, что этот закон сохраняется, даже если города растут в хаотическом порядке. Но эта ровная структура ломается, как только вы переходите к городам, не входящим в разряд мегаполисов. Небольшие города с численностью населения около ста тысяч человек, по всей видимости, подчиняются другому закону и показывают более объяснимое распределение размеров.

Можно задаться вопросом, что же имеется в виду под определением «город»? Ведь, например, Бостон и Кембридж считаются двумя разными городами, так же, как Сан-Франциско и Окленд, разделённые водой. У двух шведских географов тоже возник такой вопрос, и они стали рассматривать так называемые «естественные» города, объединённые населением и дорожными связками, а не политическими мотивами. И они обнаружили, что даже такие «естественные» города подчиняются закону Ципфа.

Почему закон Ципфа работает в городах?

Так что же заставляет города быть столь предсказуемыми в количестве населения? Никто точно не может это объяснить. Нам известно, что города расширяются за счёт иммиграции, иммигранты стекаются в большие мегаполисы, потому что там больше возможностей. Но иммиграции недостаточно, чтобы объяснить этот закон.

Есть также экономические мотивы, поскольку в больших городах делают большие деньги, а закон Ципфа работает и для распределения доходов. Однако, чёткого ответа на вопрос это по-прежнему не даёт.

В прошлом году группа исследователей обнаружила, что у закона Ципфа всё же есть исключения: закон работает, только если рассматриваемые города связаны экономически. Это объясняет, почему закон действует, например, для отдельной европейской страны, но не для всего ЕС.

Как же растут города

Существует ещё одно странное правило, применимое к городам, оно имеет отношение к тому, каким способом города потребляют ресурсы, когда растут. Вырастая, города становятся более стабильными. Например, если город удваивается в размере, требуемое ему число бензоколонок не увеличивается вдвое.

Город будет вполне комфортно жить, если количество бензоколонок увеличится примерно на 77%. В то время, как закон Ципфа следует определённым социальным законам, этот закон более близок к природным, например, к тому, как животные потребляют энергию, становясь взрослее.

Математик Стивен Строгац описывает это так:

Сколько калорий в день нужно мыши по сравнению со слоном? Оба они млекопитающие, таким образом, можно предположить, что на клеточном уровне они не должны сильно отличаться. И действительно, если вырастить в лаборатории клетки десяти различных млекопитающих, у всех этих клеток будет одинаковая скорость метаболизма, они не запоминают на генетическом уровне, какого размера в действительности их хозяин.

Но если взять слона или мышь как полноценное животное, функционирующее скопление миллиардов клеток, то на одно и то же действие клетки слона будут расходовать гораздо меньше энергии, чем клетки мыши. Закон метаболизма, названный законом Кляйбера, утверждает, что метаболические потребности млекопитающего растут пропорционально его массе тела в 0,74 раза.

Эти 0,74 очень близки к 0,77, наблюдаемым у закона, управляющего количеством бензоколонок в городе. Совпадение? Может быть, но скорее всего нет.

В России население самого крупного города, Москвы, официально составляет около 11,5 млн. человек. Численность второго города, Санкт-Петербурга, — 5,2 млн. Как мы видим, соотношение численности населения двух городов примерно соответствует «закону Ципфа». По нему третий по численности город в России должен иметь около 4 млн. человек, а четвёртый — около 3 млн. Однако таких городов в России нет. В реальности третий город в России, Новосибирск, имеет численность 1,6 млн. человек (в 2,5 раза меньше нормы), а четвёртый, Екатеринбург, 1,4 млн., что тоже в 2 раза ниже нормы «по Ципфу».

Почему «закон Ципфа» не работает в России? Американский социолог Ричард Флорида в книге «Креативный класс» даёт ответ на этот вопрос. Он пишет, что «закон Ципфа» не работает в империях (или странах, имеющих рецидив империй) и плановых экономиках. Он называет три таких страны-исключения: Англию (где после Лондона нет даже второго города, меньшего по населению в 2 раза), Россию и Китай.

Исследование по «закону Ципфа» проводилось и Финансовым университетом при правительстве России. Вывод в нём был таков:

«Реальное распределение городов России по численности населения не в полной мере соответствует кривой Ципфа ни для развитых, ни для развивающихся стран. Часть реальной кривой Ципфа для России расположена выше идеальной, что соответствует распределению городов в развитых странах, а часть ниже - соответствует распределению городов в развивающихся странах. Таким образом, по правилу Ципфа получается, что в России доминирующую роль играют крупнейшие города и города-миллионники. Отклонение реальной кривой от идеальной связано с обширной территорией страны и различными социально-экономическими и природно-климатическими факторами».

Два мегаполиса и малые и средние города (до 250 тыс. человек) вполне укладываются в тип западной урбанизации. А вот крупные города и города-миллионники — нет.

Вывод ещё одного исследования:

«Выявленные тенденции не соответствуют высказанным в литературе предположениям, что причиной отклонения России от закономерности Ципфа является централизованное планирование пространственного развития, которое включало поддержку средних и малых городов в советский период. Переход к рынку должен был устранить эти искажения и приблизить зависимость ранг - размер к канонической форме, однако, несмотря на подключение рыночных механизмов к формированию пространства экономической активности, в стране наблюдалось дальнейшее отклонение от неё».

(Кружками обозначена численность населения областей России)

Т.е. отклонение от «закона Ципфа» в России не результат плановой экономики (как в Китае), а следствие имперскости страны (когда один или два города играют роль метрополии).

Исходя из этих тенденций, вероятность развития/регресса городов в России такова:

— Большинство городов России лежит выше идеальной кривой Ципфа, поэтому ожидаемая тенденция — продолжение сокращения численности и людности средних и малых городов за счёт миграции в крупные города.

— 7 городов-миллионников (Санкт-Петербург, Новосибирск, Екатеринбург, Нижний Новгород, Казань, Челябинск, Омск), находящиеся ниже идеальной кривой Ципфа, имеют существенный резерв роста населения и ожидают прирост населения.

— Существуют риски депопуляции первого города в ранге (Москвы), поскольку второй город (Санкт-Петербург) и последующие крупные города сильно отстают от идеальной кривой Ципфа в связи со снижением спроса на рабочую силу при одновременном росте стоимости проживания, включая, прежде всего, стоимость покупки и аренды жилья».

(В СССР «закон Ципфа» тоже не работал — видно отклонение городов от кривой Ципфа, где они должны были бы находиться)

Ричард Флорида в книге «Креативный класс» замечает ещё одно отличие американских и российских городов. В США концентрация креативного класса — в средних городах, разбросанных по всей территории страны. Так, наивысшая доля креативного класса в таких города, как Сан-Хосе, Боулдер (штат Колорадо), Хантсвилл (штат Алабама), Корваллис (штат Орегон) и т.д. — в них эта доля составляет 40-48%. А вот самый крупный город США, Нью-Йорк в числе середняков по доле креативного класса — 35% от общего числа работников и 34-е место в рейтинге, второй город страны, Лос-Анджелес — вообще 60-е место. Похожая тенденция наблюдается и в других странах, где работает «закон Ципфа» (Германия, Франция, Италия, Швеция и т.д.).

В России же почти весь креативный класс страны сосредоточен в Москве, а остальные города так и остаются зоной индустриального времени образца середины ХХ века.

Всё это ужасно захватывающе, но, пожалуй, менее таинственно, чем закон Ципфа. Не так сложно понять, почему город, являющийся, по сути, экосистемой, хоть и построенной людьми, должен подчиняться естественным законам природы. Но закон Ципфа не имеет аналога в природе. Это социальное явление и оно имеет место только на протяжении последних ста лет.

Всё, что мы знаем, это то, что закон Ципфа действует и для других социальных систем, включая экономическую и лингвистическую. Таким образом, возможно, есть какие-то общие социальные правила, создающие этот странный закон, и когда-нибудь мы сможем их понять. Тот, кто разгадает этот ребус, возможно, обнаружит ключ к предсказанию намного более важных вещей, чем рост городов. Закон Ципфа может быть лишь небольшим аспектом глобального правила социальной динамики, которое определяет то, как мы общаемся, торгуем, образуем сообщества и многое другое.

П.С. лично мне кажется, что закон с такими примерными допущениями к цифрам и кучей исключений вообще то и законом назвать сложно. Просто случайное совпадение.

А вы что думаете?

источники

Первый раз с описанием законом Ципфа я встретился, читая . Суть закона: если слова любого текста ранжировать по частоте использования, то произведение ранга на частоту есть величина постоянная:

F*R =C , где:

F – частота появления слова в тексте;

R – ранг слова (наиболее часто употребляемое слово получает ранг 1, следующее – 2 и т.д.);

С – константа.

Для тех, кто еще хоть немного помнит алгебру:), в приведенной выше формуле легко узнает уравнение гиперболы. Ципф экспериментально определил, что С ≈ 0,1. Так, что графическое изображение закона Ципфа приблизительно следующее:

Рис. 1. Гипербола закона Ципфа.

Скачать заметку в формате , примеры в формате

У гипербол есть замечательно свойство. Если для обеих осей взять логарифмический масштаб, то гипербола будет иметь вид прямой:

Рис. 2. Та же гипербола, но на графике с логарифмическими шкалами

Может возникнуть вопрос: при чем здесь поисковая оптимизация? Так вот, оказывается, что специально сгенерированные тексты, содержащие повышенное число ключевых слов, не вписываются в закон. Поисковые машины (Google, Yandex) проверяют тексты на «естественность», то есть соблюдение закона Ципфа и, либо понижают рейтинг сайтов с «подозрительными» текстами, либо вообще банят такие сайты.

Второй раз я встретился с законом Ципфа у Бенуа Мандельброта в его книге . И этот небольшой раздел мне так понравился, что позвольте привести его полностью.

Неожиданный степенной закон

В 1950 году я был молодым студентом-математиком Парижского университета, подыскивавшим тему для своей диссертации. Мои дядя Золем являл собою местный хрестоматийный образец профессора математики: глубокий теоретик, очень консервативный и, несмотря на то, что родится в Польше, столп французского научного сообщества. Уже в 31-летнем возрасте его избрали профессором на полной ставке престижного Французского колледжа.

То быта эра Николя Бурбаки; за этим собирательным псевдонимом скрывался математический «клуб», который, подобно Дада в искусстве или экзистенциализму в литературе, распространился из Франции и стал на некоторое время чрезвычайно влиятельным на мировой сцене. Абстракция и чистая математика, математика ради математики, были возведены в ранг культа; члены «клуба» презирали прагматизм, прикладную математику и даже математику как инструмент науки. Такой подход был для французских математиков догмой, а для меня, пожалуй, причиной уехать из Франции и поступить на работу в IBM. Я был, к ужасу моего дяди, молодым бунтарем. Работая над своей докторской диссертацией, я часто в конце дня заходил к нему в кабинет поболтать, и нередко эти разговоры перерастали в дискуссию. Однажды, пытаясь как-то скрасить предстоящую долгую и скучную поездку на метро домой, я попросил у него в дорогу что-нибудь почитать. Он сунул руку в мусорную корзину и извлек оттуда несколько скомканных листков бумаги.

– Вот, возьми, – буркнул дядя. – Глупейшая статья, из тех, какие ты любишь.

То был обзор книги социолога Джорджа Кингсли Ципфа. Ципф, достаточно богатый человек, чтобы не думать о куске хлеба насущного, читал в Гарвардском университете лекции по им же придуманной дисциплине, которую он назвал статистической человеческой экологией. В его книге Human Behavior and the Principle of Least Effort (Поведение человека и принцип наименьших усилий) степенные законы рассматривались как вездесущие структуры общественных наук. В фишке степенные законы вполне обычны и выступают формой того, что я ныне называю фрактальным самоповторением в масштабе. У сейсмологов есть математическая формула степенной зависимости количества землетрясений от их силы по знаменитой шкале Рихтера. Или, другими словами: слабые землетрясения обычны, тогда как сильные редки, а частота и сила землетрясений связаны точной формулой. В то время было немногих таких примеров, да и известны они были всего нескольким людям. Ципф, энциклопедист, был одержим навязчивой идеей, будто степенные законы действуют не только в физических науках; им подчиняются все проявления поведения, организации и анатомии человека – даже размеры половых органов.

К счастью, обзор книги, который мне дал дядя, ограничивался только одним необычно изящным примером: частотой слов. В тексте или речи некоторые слова, такие как английские the (определенный артикль) или this («это»), встречаются часто; другие, milreis или momus, появляются редко или вообще никогда (для самых любознательных: первое означает древнюю португальскую монету, второе – синоним слова «критик»). Ципф предложил следующее упражнение: взять любой текст и посчитать, сколько раз в нем появляется каждое слово. Затем присвоить каждому слову ранг: 1 - для самых часто употребляемых слов, 2 - для занимающих второе место по частоте появления и т.д. Наконец, построить график, на котором для каждого ранга указать количество появлении этого слова. Мы получим удивительный рисунок. Кривая не убывает равномерно от самого обычного слова в данном тексте к самому редкому. Сначала она обрушивается с головокружительной быстротой, после чего начинает убывать медленнее, повторяя траекторию лыжника, прыгнувшего с трамплина, а затем приземлившегося и спускающегося по относительно пологому склону заснеженной горы. Образец классической неравномерной шкалы. Ципф, подогнав под свои диаграммы кривую, придумал для нее формулу.

Я был ошеломлен. К концу моей долгой поездки на метро я уже имел тему для половины моей докторской диссертации. Я точно знал, как объяснить математические основания частотного распределения слов, чего Ципф, не будучи математиком, сделать не смог бы. В последующие месяцы меня ждали удивительные открытия. Используя упомянутое уравнение, можно создать мощный инструмент социальных исследований. Улучшенный вариант формулы Ципфа позволял количественно оценить и ранжировать богатство словарного запаса любого человека: высокое значение – богатый лексикон; низкое значение – бедный. Имея такую шкалу, можно измерять различия по словарному запасу между текстами или говорящими. Появляется возможность количественно оценить эрудицию. Правда, мои друзья и консультанты были в ужасе от моей решимости заняться этой странной темой. Ципф, говорили они мне, человек с причудами. Мне показали его книгу, и я согласился, что она отвратительна. Подсчет слов – это не настоящая математика, убеждали меня. Занявшись этой темой, я никогда не найду хорошую работу; и профессором стать мне тоже будет нелегко.

Но я оставался глух к мудрым советам. Мало того, я написал диссертацию вообще без консультантов и даже уговорит одного из университетских бюрократов заверить ее печатью. Я был исполнен решимости пройти избранный путь до конца и применить идеи Ципфа в экономике, ведь не только речь можно свести к степенному закону. Богаты мы или бедны, процветаем или голодаем - все это тоже казалось мне объектом степенного закона.

Мандельброт немного модифицировал формулу Ципфа:

F = C * R -1/ a , где

a – коэффициент, характеризующий богатство словарного запаса; чем больше значение a, тем богаче словарный запас текста, поскольку кривая зависимости частоты появления каждого слова от его ранга убывает медленнее, и, например, редкие слова появляются чаще, чем при меньших значениях a. Именно это свойство Мандельброт предполагал использовать для оценки эрудиции .

С законом Ципфа не всё так гладко, и в конкретных применениях опираться на экспериментально определенный коэффициент a не всегда получается. В то же время закон Ципфа является ни чем иным, как законом Парето «наоборот», поскольку и тот и другой – частные случаи степенных рядов, или… проявление фрактальной природы экономических и социальных систем .

Для себя суть фрактальной природы экономических систем я сформулировал следующим образом. С одной стороны, есть игровая случайность: рулетка, бросание костей. С другой, технологическая/физическая случайность: разброс диаметра вала, изготавливаемого на токарном станке, разброс роста взрослого человека. Все перечисленные явления описываются . Так вот, есть целый ряд явлений не подчиняющихся этому распределению: богатство стран и отдельных людей, колебания цен на акции, курсы валют, частота использования слов, сила землетрясений… Для таких явлений характерным является то, что среднее значение очень сильно зависит от выборки. Например, если взять сто случайных людей разного роста, то добавление к ним самого высокого человека на Земле не сильно изменит средний рост этой группы. Если же посчитать средний доход ста случайных людей, то добавление самого богатого человека планеты – Карлоса Слим Элу (а не Билла Гейтса, как многие могли бы подумать:)) значительно увеличит среднее богатство каждого, примерно, до 500 млн. долларов!

Другим проявлением фрактальности является значительное расслоение выборки. Рассмотрим, например,

Согласитесь, представленная закономерность как две капли воды похожа на кривую Ципфа!

Одно из свойств фрактальности, это самоповторение. Так вот, из 192-х стран мира, перечисленных в списке, 80% мирового богатства сосредоточена всего в 18 странах – 9,4% (18/192). Если же теперь рассмотреть только эти 18 стран, то их суммарное богатство – 46 трлн. долл. – распределено столь же неравномерно. 80% от этих 46 трлн. Сосредоточено в менее чем половине стран, и т.д.

Вы можете спросить: какой практический вывод из всего сказанного? Я бы сказал так:

Социальные и экономические системы не описываются гауссианой. Эти закономерности подчиняются степенным рядам [синоним – фрактальная природа].
Выбросы от среднего существенно более вероятны, чем в соответствии с предсказаниями колоколообразной кривой Гаусса. Более того, выбросы внутренне присущи системе; они не случайны, а закономерны.
Оценки рисков нельзя строить на основе нормального распределения вероятностей редких нежелательных событий.
… не буду лукавить, пока больше ничего придумать не могу… но это не значит, что практических выводов больше нет… просто мои знания этим ограничиваются…

… но согласитесь, ведь красивые закономерности!

О фрактальности см. Бенуа Мандельброт

Надо отметить, что данные из разных источников сильно разнятся, но это не имеет отношения к рассматриваемой здесь теме.