Вероятностный метод в комбинаторике

Курс посвящен одному из самых мощных инструментов современной дискретной математики — вероятностному методу доказательства существования дискретных структур. Вы изучите базовые и продвинутые техники, включая метод математического ожидания, второй момент и локальную лемму Ловаса, на классических задачах теории графов и комбинаторики Рамсея. Программа ориентирована на развитие интуиции и навыков решения нестандартных олимпиадных и исследовательских задач.

Идея вероятностного существования и нижние оценки чисел Рамсея

Идея вероятностного существования и нижние оценки чисел Рамсея

Как доказать, что сложный математический объект существует, если никто в мире не знает явного алгоритма его построения? В классической комбинаторике доказательство существования почти всегда означало предъявление конструкции: формулы, фрактального паттерна или жадного алгоритма. Однако в 1947 году венгерский математик Пал Эрдёш опубликовал трёхстраничную статью, которая перевернула парадигму дискретной математики. Он доказал существование графов с феноменальными свойствами, просто подбрасывая воображаемую монетку для каждого ребра.

Пал Эрдёш в молодости

Этот подход получил название вероятностного метода. Его суть парадоксальна: чтобы доказать существование детерминированного объекта с заданным свойством, мы погружаем всё множество объектов в вероятностное пространство. Если вероятность того, что случайно выбранный объект обладает нужным свойством, строго больше нуля, то такой объект обязан существовать.

Числа Рамсея и проблема явной конструкции

Классическая теорема Рамсея утверждает: для любого натурального числа k3k \ge 3 существует такое минимальное число NN, что при произвольной раскраске рёбер полного графа KNK_N в два цвета (например, красный и синий) обязательно найдётся монохроматический полный подграф KkK_k — клика размера kk, все рёбра которой окрашены в один цвет. Это минимальное NN обозначается как R(k,k)R(k, k) (диагональное число Рамсея).

Известная шуточная интерпретация для k=3k = 3: в любой группе из 6 человек найдутся либо трое попарно знакомых, либо трое попарно незнакомых (R(3,3)=6R(3, 3) = 6). Верхнюю оценку для произвольного kk ещё в 1935 году получили Дьёрдь Секереш и Пал Эрдёш с помощью простого индуктивного шага:

R(k,k)(2k2k1)<4kR(k, k) \le \binom{2k - 2}{k - 1} < 4^k

Здесь (2k2k1)\binom{2k - 2}{k - 1} — биномиальный коэффициент («число сочетаний из 2k22k-2 по k1k-1»), задающий число способов выбрать k1k-1 элемент из 2k22k-2. При больших kk по формуле Стирлинга эта величина растёт как 4k1πk\frac{4^{k-1}}{\sqrt{\pi k}}, то есть не превосходит геометрической прогрессии со знаменателем 4.

Но какова нижняя граница? Чтобы доказать неравенство R(k,k)>nR(k, k) > n, необходимо предъявить контрпример: хотя бы одну раскраску рёбер графа KnK_n в два цвета, в которой нет ни одного одноцветного подграфа KkK_k.

Допустим, мы хотим доказать это прямым перебором или явной симметричной конструкцией. На графе с nn вершинами всего существует:

(n2)=n(n1)2\binom{n}{2} = \frac{n(n - 1)}{2}

рёбер, а значит, общее число различных 2-раскрасок равно 2(n2)2^{\binom{n}{2}}. Уже для скромного значения n=40n = 40 число вариантов превышает 1023010^{230}, что на порядки больше числа атомов в наблюдаемой Вселенной. Явные алгебраические построения (например, графы Пэли или вычеты по модулю) давали лишь полиномиальные нижние оценки вида R(k,k)>kcR(k, k) > k^c. Экспоненциальный барьер казался непреодолимым, пока Эрдёш не отказался от попыток нарисовать конкретный граф.

Рождение вероятностного метода: схема рассуждения

Идея Эрдёша заключается в том, чтобы рассмотреть ансамбль всех возможных раскрасок как вероятностное пространство с равномерным распределением.

Пусть у нас есть полный граф KnK_n на nn вершинах. Окрасим каждое из его (n2)\binom{n}{2} рёбер независимо друг от друга в красный или синий цвет с равной вероятностью p=1/2p = 1/2.

Зафиксируем некоторое подмножество вершин SVS \subset V мощности S=k|S| = k. Сколько рёбер натянуто на эти kk вершин? Ровно (k2)\binom{k}{2}. Какова вероятность того, что все эти рёбра оказались одного цвета?

  1. Рёбра окрашиваются независимо, поэтому вероятность того, что все (k2)\binom{k}{2} рёбер красные, равна (1/2)(k2)(1/2)^{\binom{k}{2}}.
  2. Вероятность того, что все они синие, точно такая же: (1/2)(k2)(1/2)^{\binom{k}{2}}.
  3. Так как события «все красные» и «все синие» несовместны при k3k \ge 3, вероятность монохроматичности подграфа на вершинах SS равна сумме их вероятностей:

P(AS)=(12)(k2)+(12)(k2)=22(k2)=21(k2)\mathbb{P}(A_S) = \left(\frac{1}{2}\right)^{\binom{k}{2}} + \left(\frac{1}{2}\right)^{\binom{k}{2}} = 2 \cdot 2^{-\binom{k}{2}} = 2^{1 - \binom{k}{2}}

Здесь ASA_S — «плохое» событие, означающее, что на подмножестве вершин SS образовался монохроматический KkK_k.

Теперь свяжем локальные плохие события воедино. Нас интересует вероятность того, что хотя бы для одного набора из kk вершин случится неприятность. Для этого привлекается фундаментальный инструмент теории вероятностей — неравенство Буля (в англоязычной литературе — Union Bound).

Для любой последовательности событий A1,A2,,AmA_1, A_2, \ldots, A_m (даже зависимых) вероятность их объединения не превосходит суммы их индивидуальных вероятностей:

P(i=1mAi)i=1mP(Ai)\mathbb{P}\left(\bigcup_{i=1}^m A_i\right) \le \sum_{i=1}^m \mathbb{P}(A_i)

В отличие от формулы включений-исключений, неравенство Буля не требует независимости событий. А события ASA_S и ATA_T для пересекающихся наборов вершин SS и TT зависимы, ведь у них есть общие рёбра. Union bound позволяет проигнорировать эти сложные корреляции и получить верхнюю границу потерь суммированием.

Теорема Эрдёша о нижней оценке R(k,k)R(k, k)

Соберём компоненты доказательства в строгую теорему.

Теорема (Эрдёш, 1947): Если для натуральных чисел nn и kk выполняется строгое неравенство

(nk)21(k2)<1\binom{n}{k} 2^{1 - \binom{k}{2}} < 1

то диагональное число Рамсея удовлетворяет оценке R(k,k)>nR(k, k) > n.

Доказательство:

Обозначим через F\mathcal{F} семейство всех kk-элементных подмножеств вершин графа KnK_n. Общее число таких подмножеств равно (nk)\binom{n}{k}.

Событие B=SFASB = \bigcup_{S \in \mathcal{F}} A_S означает, что в случайной раскраске существует хотя бы один монохроматический подграф KkK_k. Оценим вероятность события BB по неравенству Буля:

P(B)=P(SFAS)SFP(AS)=(nk)21(k2)\mathbb{P}(B) = \mathbb{P}\left(\bigcup_{S \in \mathcal{F}} A_S\right) \le \sum_{S \in \mathcal{F}} \mathbb{P}(A_S) = \binom{n}{k} 2^{1 - \binom{k}{2}}

По условию теоремы эта сумма строго меньше 1:

P(B)<1\mathbb{P}(B) < 1

Перейдём к противоположному событию B\overline{B}, означающему, что ни одно из плохих событий не наступило (то есть в графе нет ни красного, ни синего KkK_k):

P(B)=1P(B)>0\mathbb{P}(\overline{B}) = 1 - \mathbb{P}(B) > 0

Вероятность обнаружить раскраску без монохроматических KkK_k строго положительна. Поскольку пространство всех раскрасок конечно, строго положительная вероятность гарантирует: среди всех 2(n2)2^{\binom{n}{2}} вариантов раскраски существует как минимум один граф, удовлетворяющий условию. Значит, на nn вершинах монохроматический KkK_k ещё не гарантирован, откуда R(k,k)>nR(k, k) > n. \blacksquare

Вдумайтесь в силу этого вывода: мы не проверили ни одной конкретной конфигурации, не нашли ни одной симметрии, но с абсолютной математической строгостью доказали, что искомый граф существует.

Асимптотический анализ неравенства

Чтобы превратить условие теоремы (nk)21(k2)<1\binom{n}{k} 2^{1 - \binom{k}{2}} < 1 в явную функцию от kk, воспользуемся стандартной оценкой биномиального коэффициента:

(nk)=n(n1)(nk+1)k!nkk!\binom{n}{k} = \frac{n(n - 1)\ldots(n - k + 1)}{k!} \le \frac{n^k}{k!}

Распишем показатель степени двойки:

(k2)=k(k1)2=k22k2\binom{k}{2} = \frac{k(k - 1)}{2} = \frac{k^2}{2} - \frac{k}{2}

Тогда левая часть неравенства Эрдёша оценивается сверху:

(nk)21(k2)<nkk!21k2/2+k/2=22k/2k!(n2k/2)k\binom{n}{k} 2^{1 - \binom{k}{2}} < \frac{n^k}{k!} 2^{1 - k^2/2 + k/2} = \frac{2 \cdot 2^{k/2}}{k!} \left(\frac{n}{2^{k/2}}\right)^k

Мы хотим, чтобы эта величина не превосходила 1. Подставим n=2k/2n = \lfloor 2^{k/2} \rfloor. Тогда отношение n/2k/21n / 2^{k/2} \le 1, а факториал k!k! в знаменателе с колоссальной скоростью устремляет всё выражение к нулю при k3k \ge 3.

Более точный подсчёт с использованием формулы Стирлинга (k!2πk(k/e)kk! \approx \sqrt{2\pi k}(k/e)^k) даёт асимптотическую оценку:

R(k,k)>1+o(1)e2k2k/2R(k, k) > \frac{1 + o(1)}{e\sqrt{2}} \, k \, 2^{k/2}

Сравним верхнюю и нижнюю границы:

Оценка Значение Порядок роста Метод доказательства
Нижняя (Эрдёш, 1947) R(k,k)>ke22k/2R(k, k) > \frac{k}{e\sqrt{2}} 2^{k/2} Ω(k(2)k)\Omega(k \cdot (\sqrt{2})^k) Вероятностный метод (Union Bound)
Верхняя (Эрдёш — Секереш, 1935) R(k,k)<4kπkR(k, k) < \frac{4^k}{\sqrt{\pi k}} O(k1/24k)O(k^{-1/2} \cdot 4^k) Индукция по вершинам графа

Основание экспоненты зажато между 21,414\sqrt{2} \approx 1{,}414 и 44. За последующие десятилетия нижняя граница была улучшена Джоэлом Спенсером в константное число раз (в 2 раза с помощью локальной леммы Ловаса, которую мы разберём в одной из следующих глав), но существенно увеличить само основание экспоненты 2\sqrt{2} не удалось до сих пор.

Почему конструктивный подход уступает случайности?

Может показаться, что вероятностный метод — это временный костыль, и со временем математики научатся строить такие графы руками. Однако история показала обратное.

Первая чисто детерминированная конструкция графа без монохроматических KkK_k была предложена Петером Франклом и Ричардом Вильсоном только в 1981 году на основе теории пересечений множеств в векторных пространствах. Их конструкция давала нижнюю границу:

R(k,k)>exp(cln2klnlnk)R(k, k) > \exp\left(c \cdot \frac{\ln^2 k}{\ln \ln k}\right)

Это сверхполиномиальный рост, но он катастрофически медленнее любой экспоненты 2ck2^{c k}. Лишь в 2015–2016 годах исследователи в области псевдослучайности и двухвходовых экстракторов (в работах Эшана Чаттопадхьяя, Дэвида Цукермана и Гила Коэна) смогли продвинуться к квазиполиномиальным и слабоэкспоненциальным конструкциям, но вероятностная граница 2k\sqrt{2}^k для явных графов остаётся недосягаемой.

Причина этого разрыва лежит в природе симметрии. Любая детерминированная конструкция опирается на внутренний порядок: циклические группы, линейную алгебру, проективную геометрию. Но порядок порождает скрытые регулярности, которые приводят к появлению нежелательных монохроматических клик. Случайный же граф максимально свободен от глобальных корреляций, что делает его идеальным кандидатом для экстремальных задач.

В следующей главе мы сделаем шаг от простого вычисления вероятностей к оценке средних величин и познакомимся со свойством линейности математического ожидания, которое позволяет находить колоссальные разрезы в сложных сетях.

Линейность математического ожидания и поиск разрезов в графах

Линейность математического ожидания и поиск разрезов в графах

Неравенство Буля гарантирует существование объекта, пока сумма вероятностей «плохих» событий строго меньше единицы. Но что делать, если событий слишком много, они пересекаются хаотическим образом, а их суммарная вероятность заведомо превышает единицу? В таких ситуациях вероятность избежать всех нежелательных конфигураций может казаться неизмеримо малой.

Выход из этого тупика предлагает фундаментальный принцип: случайная величина обязана хотя бы в одной точке вероятностного пространства принимать значение не меньше своего математического ожидания (и хотя бы в одной точке — не больше него). Главная сила этого утверждения кроется в алгебраическом свойстве математического ожидания: оно строго линейно даже для зависимых величин.

Абсолютная линейность и метод усреднения

Пусть на дискретном вероятностном пространстве заданы случайные величины X1,X2,,XmX_1, X_2, \dots, X_m. Независимо от того, как именно они коррелируют друг с другом, всегда выполняется равенство:

E[i=1mXi]=i=1mE[Xi]\mathbb{E}\left[\sum_{i=1}^{m} X_i\right] = \sum_{i=1}^{m} \mathbb{E}[X_i]

Здесь E\mathbb{E} обозначает математическое ожидание суммы случайных величин, а правая часть представляет собой сумму их индивидуальных ожиданий. В практических задачах случайные величины чаще всего являются индикаторами событий: Xi=IAiX_i = \mathbb{I}_{A_i}, где величина равна 11, если событие AiA_i наступило, и 00 в противном случае. Тогда E[Xi]=P(Ai)\mathbb{E}[X_i] = \mathbb{P}(A_i), а математическое ожидание суммы превращается в сумму вероятностей элементарных событий.

Из линейности немедленно следует базисный принцип вероятностного существования:

Если случайная величина XX имеет математическое ожидание E[X]=μ\mathbb{E}[X] = \mu, то в вероятностном пространстве непременно существуют элементарные исходы ω1\omega_1 и ω2\omega_2 такие, что X(ω1)μX(\omega_1) \geq \mu и X(ω2)μX(\omega_2) \leq \mu.

Если бы случайная величина во всех точках пространства строго превосходила μ\mu (или строго уступала ему), то и среднее значение строго отличалось бы от μ\mu, что невозможно. Это простое соображение позволяет доказывать существование структур рекордного размера без какого-либо анализа совместных распределений.

Двудольные подграфы и задача о максимальном разрезе

Классическая NP-трудная задача комбинаторной оптимизации — поиск максимального разреза (Max-Cut): требуется разбить множество вершин графа на два непересекающихся класса так, чтобы число рёбер между ними оказалось как можно больше.

Пусть задан произвольный граф G=(V,E)G = (V, E) с nn вершинами и mm рёбрами. Какую гарантированную долю рёбер можно перевести в двудольный подграф?

Построим вероятностное пространство. Для каждой вершины vVv \in V подбросим честную монету: с вероятностью 1/21/2 отправим её во множество AA, а с вероятностью 1/21/2 — во множество B=VAB = V \setminus A. Выборы для всех вершин делаем взаимно независимыми.

Ребро e={u,v}Ee = \{u, v\} \in E попадает в разрез (то есть соединяет доли AA и BB) тогда и только тогда, когда его концы оказываются в разных множествах. Введём индикатор для каждого ребра eEe \in E:

Xe={1,если (uAvB)(uBvA),0,иначе.X_e = \begin{cases} 1, & \text{если } (u \in A \land v \in B) \lor (u \in B \land v \in A), \\ 0, & \text{иначе.} \end{cases}

Найдём вероятность того, что ребро пересекает разрез:

P(Xe=1)=P(uA)P(vB)+P(uB)P(vA)=1212+1212=12\mathbb{P}(X_e = 1) = \mathbb{P}(u \in A) \cdot \mathbb{P}(v \in B) + \mathbb{P}(u \in B) \cdot \mathbb{P}(v \in A) = \frac{1}{2} \cdot \frac{1}{2} + \frac{1}{2} \cdot \frac{1}{2} = \frac{1}{2}

Общее число рёбер в разрезе задаётся суммой индикаторов X=eEXeX = \sum_{e \in E} X_e. Применяя линейность математического ожидания, получаем:

E[X]=eEE[Xe]=eE12=m2\mathbb{E}[X] = \sum_{e \in E} \mathbb{E}[X_e] = \sum_{e \in E} \frac{1}{2} = \frac{m}{2}

События {Xe=1}\{X_e = 1\} для смежных рёбер явно зависимы: если ребро {u,v}\{u, v\} уже лежит в разрезе, то положение вершины vv фиксировано относительно uu, что меняет условную вероятность пересечения разреза ребром {v,w}\{v, w\}. Однако линейность математического ожидания игнорирует эти корреляции.

Так как E[X]=m/2\mathbb{E}[X] = m/2, в графе гарантированно существует разбиение вершин V=ABV = A \cup B, при котором разрез содержит не менее m/2m/2 рёбер.

Любой граф GG с mm рёбрами содержит двудольный подграф, в котором сосредоточено по меньшей мере m/2\lceil m/2 \rceil рёбер. Классический результат Пала Эрдёша показывает, что оценку можно усилить: в любом связном графе с mm рёбрами и nn вершинами существует двудольный подграф, содержащий не менее m2+n14\frac{m}{2} + \frac{n-1}{4} рёбер (а если все вершины имеют чётные степени dv=2kvd_v = 2k_v, то не менее m2+c(G)2\frac{m}{2} + \frac{c(G)}{2}, где c(G)c(G) — число компонент связности).

Пути в турнирах: когда комбинаторика бессильна без усреднения

Рассмотрим ориентированный граф, в котором между каждой парой вершин проведено ровно одно направленное ребро — турнир T=(V,E)T = (V, E) на nn вершинах. Гамильтоновым путём называется простой ориентированный путь, проходящий через все nn вершин ровно по одному разу.

Теорема Редеи утверждает, что в любом турнире существует хотя бы один гамильтонов путь. Но сколько таких путей может существовать одновременно? Пусть P(n)P(n) — максимальное по всем турнирам на nn вершинах число гамильтоновых путей. Задача нахождения точного значения P(n)P(n) чрезвычайно сложна, но с помощью математического ожидания венгерский математик Тибор Селе (Tibor Szele) в 1943 году доказал фундаментальную нижнюю оценку.

Рассмотрим случайный турнир TnT_n, в котором ориентация каждого из (n2)\binom{n}{2} рёбер выбирается подбрасыванием правильной монеты: ребро (u,v)(u, v) направлено от uu к vv с вероятностью 1/21/2, и от vv к uu с вероятностью 1/21/2 независимо для всех пар.

Всего существует ровно n!n! упорядоченных последовательностей из всех вершин графа: σ=(v1,v2,,vn)\sigma = (v_1, v_2, \dots, v_n). Для каждой фиксированной перестановки σ\sigma введём индикаторную величину:

Iσ={1,если ребра (v1,v2),(v2,v3),,(vn1,vn) направлены в соответствии с порядком,0,иначе.I_\sigma = \begin{cases} 1, & \text{если ребра } (v_1, v_2), (v_2, v_3), \dots, (v_{n-1}, v_n) \text{ направлены в соответствии с порядком}, \\ 0, & \text{иначе.} \end{cases}

Путь содержит ровно n1n - 1 конкретное ребро. Так как все пары ориентируются независимо, вероятность того, что все эти n1n - 1 дуг согласованы с перестановкой σ\sigma, равна:

P(Iσ=1)=(12)n1\mathbb{P}(I_\sigma = 1) = \left(\frac{1}{2}\right)^{n-1}

Суммарное число гамильтоновых путей HH в случайном турнире выражается суммой индикаторов по всем n!n! перестановкам:

H=σSnIσH = \sum_{\sigma \in S_n} I_\sigma

По линейности математического ожидания:

E[H]=σSnE[Iσ]=n!2(n1)\mathbb{E}[H] = \sum_{\sigma \in S_n} \mathbb{E}[I_\sigma] = n! \cdot 2^{-(n-1)}

Здесь корреляции между путями выражены максимально сильно: два пути могут перекрываться по n2n-2 рёбрам или не иметь общих рёбер вовсе. Тем не менее линейность обошла всю топологическую сложность пересечения путей.

Следовательно, существует турнир на nn вершинах, содержащий не менее n!/2n1n! / 2^{n-1} ориентированных гамильтоновых путей. Это экспоненциально большая величина: по формуле Стирлинга она растёт асимптотически как 2πn(n/(2e))n2\sqrt{2\pi n} \cdot (n / (2e))^n \cdot 2.

От вероятности к алгоритму: метод условных математических ожиданий

Доказательство через математическое ожидание утверждает: «объект существует». Но как найти конкретный разрез размера m/2\geq m/2, не перебирая все 2n2^n возможных подмножеств?

Случайный выбор даёт рандомизированный алгоритм: поскольку среднее равно m/2m/2, случайная раскраска вершин даёт подходящий разрез со значительной вероятностью. Однако существует строгий способ превратить это рассуждение в детерминированный полиномиальный алгоритм. Этот приём называется методом условных математических ожиданий (дерандомизацией).

Пусть вершины графа упорядочены: v1,v2,,vnv_1, v_2, \dots, v_n. Мы будем последовательно фиксировать принадлежность каждой вершины viv_i множеству AA или множеству BB.

Обозначим через xi{A,B}x_i \in \{A, B\} решение для вершины viv_i. На шаге kk уже зафиксированы положения вершин v1,,vkv_1, \dots, v_k, а остальные nkn - k вершин всё ещё выбирают доли случайно с вероятностями 1/21/2. Определим условное математическое ожидание размера разреза:

E(x1,,xk)=E[Xv1=x1,,vk=xk]E(x_1, \dots, x_k) = \mathbb{E}[X \mid v_1 = x_1, \dots, v_k = x_k]

По формуле полного математического ожидания:

E(x1,,xk1)=12E(x1,,xk1,A)+12E(x1,,xk1,B)E(x_1, \dots, x_{k-1}) = \frac{1}{2} E(x_1, \dots, x_{k-1}, A) + \frac{1}{2} E(x_1, \dots, x_{k-1}, B)

Так как среднее двух чисел не может строго превосходить каждое из них, хотя бы один из двух выборов даёт условное ожидание не ниже текущего:

max(E(x1,,xk1,A),  E(x1,,xk1,B))E(x1,,xk1)\max \Big( E(x_1, \dots, x_{k-1}, A), \; E(x_1, \dots, x_{k-1}, B) \Big) \geq E(x_1, \dots, x_{k-1})

Пошаговый алгоритм

  1. В начальный момент вершины не зафиксированы, условное ожидание совпадает с безусловным: E()=m/2E(\emptyset) = m/2.
  2. Для шага kk от 11 до nn: вычисляем оба значения E(x1,,xk1,A)E(x_1, \dots, x_{k-1}, A) и E(x1,,xk1,B)E(x_1, \dots, x_{k-1}, B).
  3. Выбираем для вершины vkv_k ту долю, которая максимизирует условное ожидание (или любую из них при равенстве).
  4. К шагу nn все вершины распределены: случайности не осталось, а итоговый размер полученного разреза удовлетворяет цепи неравенств:

E(A,B)=E(x1,,xn)E(x1,,xn1)E()=m2|E(A, B)| = E(x_1, \dots, x_n) \geq E(x_1, \dots, x_{n-1}) \geq \dots \geq E(\emptyset) = \frac{m}{2}

Вычисление условного ожидания за константное время

Чтобы алгоритм работал быстро, не нужно вычислять формулы ожидания целиком. Разобьём рёбра графа относительно шага kk на три непересекающиеся категории:

Категория ребра Статус концов uu и vv Вклад в E(x1,,xk)E(x_1, \dots, x_k)
Уже разрезанные Оба конца среди {v1,,vk}\{v_1, \dots, v_k\}, лежат в разных долях Ровно 11
Монохроматические Оба конца среди {v1,,vk}\{v_1, \dots, v_k\}, лежат в одной доле Ровно 00
Неопределённые Хотя бы один конец ещё не зафиксирован (в {vk+1,,vn}\{v_{k+1}, \dots, v_n\}) Ровно 1/21/2

При принятии решения для вершины vkv_k вклад рёбер, оба конца которых не включают vkv_k, вообще не меняется. Значение меняют исключительно рёбра, связывающие vkv_k с уже размещёнными соседями vjv_j (j<kj < k):

  • Если поместить vkv_k в AA, то в разрез попадут все рёбра к уже размещённым соседям из BB.
  • Если поместить vkv_k в BB, то в разрез попадут все рёбра к уже размещённым соседям из AA.

Решение тривиально: жадно отправляем вершину vkv_k в то множество, где у неё меньше соседей на текущем шаге. Это максимизирует прирост числа рёбер в разрезе и гарантирует итоговый размер не менее m/2m/2 за время O(n+m)O(n + m).

Баланс сумм векторов: пример Спенсера

Линейность математического ожидания работает не только с дискретными индикаторами в графах, но и в евклидовых пространствах. Классическая задача комбинаторной геометрии — балансировка векторов.

Пусть v1,v2,,vnRnv_1, v_2, \dots, v_n \in \mathbb{R}^n — векторы единичной длины: vi=1\|v_i\| = 1. Требуется выбрать знаки ϵ1,ϵ2,,ϵn{1,+1}\epsilon_1, \epsilon_2, \dots, \epsilon_n \in \{-1, +1\} так, чтобы вектор суммы i=1nϵivi\sum_{i=1}^{n} \epsilon_i v_i оказался как можно меньше по норме.

В качестве случайной величины рассмотрим квадрат евклидовой длины:

X=i=1nϵivi2=(i=1nϵivi,j=1nϵjvj)=i=1nj=1nϵiϵj(vi,vj)X = \left\| \sum_{i=1}^{n} \epsilon_i v_i \right\|^2 = \left( \sum_{i=1}^{n} \epsilon_i v_i, \sum_{j=1}^{n} \epsilon_j v_j \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} \epsilon_i \epsilon_j (v_i, v_j)

Здесь (vi,vj)(v_i, v_j) обозначает стандартное скалярное произведение. Выберем каждый знак ϵi\epsilon_i независимо с равными вероятностями P(ϵi=+1)=P(ϵi=1)=1/2\mathbb{P}(\epsilon_i = +1) = \mathbb{P}(\epsilon_i = -1) = 1/2.

Вычислим математическое ожидание произведения знаков ϵiϵj\epsilon_i \epsilon_j:

  • При i=ji = j: ϵi2=1\epsilon_i^2 = 1 детерминированно, поэтому E[ϵi2]=1\mathbb{E}[\epsilon_i^2] = 1.
  • При iji \neq j: в силу независимости E[ϵiϵj]=E[ϵi]E[ϵj]=00=0\mathbb{E}[\epsilon_i \epsilon_j] = \mathbb{E}[\epsilon_i] \cdot \mathbb{E}[\epsilon_j] = 0 \cdot 0 = 0.

Раскрываем математическое ожидание квадрата нормы по свойству линейности:

E[X]=i=1nj=1nE[ϵiϵj](vi,vj)=i=1nE[ϵi2]vi2+ijE[ϵiϵj](vi,vj)=i=1n11+0=n\mathbb{E}[X] = \sum_{i=1}^{n} \sum_{j=1}^{n} \mathbb{E}[\epsilon_i \epsilon_j] (v_i, v_j) = \sum_{i=1}^{n} \mathbb{E}[\epsilon_i^2] \|v_i\|^2 + \sum_{i \neq j} \mathbb{E}[\epsilon_i \epsilon_j] (v_i, v_j) = \sum_{i=1}^{n} 1 \cdot 1 + 0 = n

Так как среднее значение квадрата длины вектора равно nn, существует такой набор знаков ϵ1,,ϵn\epsilon_1, \dots, \epsilon_n, для которого:

i=1nϵivi2n    i=1nϵivin\left\| \sum_{i=1}^{n} \epsilon_i v_i \right\|^2 \leq n \implies \left\| \sum_{i=1}^{n} \epsilon_i v_i \right\| \leq \sqrt{n}

Одновременно с этим существует и выбор знаков, дающий норму не менее n\sqrt{n}. Геометрическая интерференция векторов в среднем полностью взаимно гасит недиагональные проекции.

Метод удаления: двухшаговые вероятностные конструкции

Метод удаления: двухшаговые вероятностные конструкции

Чисто случайный объект почти никогда не бывает идеальным. Если бросить симметричную монету для каждого ребра графа, стремясь избежать монохроматических клик или коротких циклов, редкие нежелательные конфигурации почти наверняка появятся. В базовом вероятностном методе мы требовали, чтобы вероятность появления хотя бы одного дефекта была строго меньше единицы. Но что делать, если пространство исходов устроено так, что математическое ожидание числа дефектов заведомо велико, и «чистый» объект случайным выбором получить невозможно?

Решение заключается в смене парадигмы: вместо пассивного ожидания идеального случайного исхода мы генерируем структуру с небольшим числом контролируемых дефектов, а затем целенаправленно уничтожаем каждый дефект вручную. Этот подход в комбинаторике называют методом удаления, или методом модификаций (alteration method).

Архитектура метода: генерация плюс хирургия

В классическом вероятностном доказательстве существования объекта со свойством P\mathcal{P} мы задаём вероятностное пространство и показываем, что P(объект обладает P)>0\mathbb{P}(\text{объект обладает } \mathcal{P}) > 0. Если дефекты описываются событиями A1,A2,,AmA_1, A_2, \dots, A_m, то объединение Ai\bigcup A_i не должно покрывать всё пространство. Метод линейности математического ожидания расширил эту оптику: мы научились находить объекты, где число дефектов или целевая функция не хуже среднего значения.

Метод удаления превращает вероятностное рассуждение в двухшаговый алгоритм:

  1. Случайный шаг (генерация с запасом): конструируется случайный сырой объект X0X_0 с параметрами, оптимизированными под плотность целевых элементов (например, рёбер или вершин). Параметры выбираются агрессивно: мы сознательно разрешаем возникновение дефектов, если их суммарное математическое ожидание оказывается существенно меньше объёма полезной структуры.
  2. Детерминированный шаг (хирургия): для каждого возникшего дефекта детерминированно удаляется один элемент (вершина или ребро), разрушающий запрещённую конфигурацию.

В результате мы гарантированно получаем очищенный объект XX, в котором дефектов нет вовсе, а число оставшихся полезных элементов строго положительно.

Поскольку число удаляемых элементов точно равно числу дефектов (или даже меньше, если одно удаление устраняет сразу несколько нарушений), размер итогового объекта оценивается снизу через линейность математического ожидания.

Нижняя оценка числа независимости: баланс между плотностью и дефектами

Пусть дан граф G=(V,E)G = (V, E) с nn вершинами и mm рёбрами со средней степенью d=2m/nd = 2m / n. Напомним, что независимым множеством называется подмножество вершин, между которыми нет ни одного ребра. Обозначим через α(G)\alpha(G) размер наибольшего независимого множества. Какую нижнюю оценку на α(G)\alpha(G) гарантирует метод удаления?

Построим независимое множество в два шага:

  1. Создадим случайное подмножество S0VS_0 \subseteq V, выбирая каждую вершину независимо с некоторой фиксированной вероятностью p(0,1)p \in (0, 1).
  2. Множество S0S_0 ещё не является независимым: некоторые рёбра графа GG оказались целиком внутри S0S_0. Для каждого такого ребра {u,v}E(G)\{u, v\} \in E(G) удалим из S0S_0 одну из его вершин (любую, например uu).

Оставшееся подмножество SS0S \subseteq S_0 по построению не содержит ни одного ребра из E(G)E(G), то есть образует корректное независимое множество.

Оценим размер полученного множества SS. Пусть XX — число вершин, попавших в S0S_0, а YY — число рёбер графа GG, оба конца которых попали в S0S_0. При удалении по одной вершине на каждое ребро мы удалим не более YY вершин. Следовательно:

SXY|S| \geq X - Y

Здесь XX — случайное число исходных вершин, YY — число возникших дефектов (внутренних рёбер), а S|S| — число уцелевших вершин после чистки.

Вычислим математическое ожидание обеих величин, пользуясь линейностью математического ожидания:

E[X]=vVP(vS0)=np\mathbb{E}[X] = \sum_{v \in V} \mathbb{P}(v \in S_0) = n p

Для произвольного ребра e={u,v}Ee = \{u, v\} \in E оба конца попадают в S0S_0 с вероятностью p2p^2, так как выбор вершин независим:

E[Y]=eEP(uS0 и vS0)=mp2\mathbb{E}[Y] = \sum_{e \in E} \mathbb{P}(u \in S_0 \text{ и } v \in S_0) = m p^2

Подставляя ожидания в неравенство для S|S|:

E[S]E[X]E[Y]=npmp2\mathbb{E}[|S|] \geq \mathbb{E}[X] - \mathbb{E}[Y] = n p - m p^2

Поскольку математическое ожидание величины S|S| равно npmp2n p - m p^2, в пространстве исходов обязан существовать хотя бы один конкретный выбор подмножества S0S_0, дающий размер очищенного множества не меньше среднего:

α(G)npmp2\alpha(G) \geq n p - m p^2

Величина pp была произвольным параметром в диапазоне (0,1)(0, 1). Найдём значение pp, максимизирующее квадратичную функцию f(p)=npmp2f(p) = n p - m p^2. Производная f(p)=n2mpf'(p) = n - 2m p обращается в ноль в точке:

p=n2m=1dp^* = \frac{n}{2m} = \frac{1}{d}

При таком выборе вероятности (при условии d1d \geq 1, иначе граф содержит изолированные вершины и задача тривиальна) получаем оценку:

α(G)n(1d)m(1d2)=ndm4m2/n2=ndn24m=ndn2d=n2d\alpha(G) \geq n \left(\frac{1}{d}\right) - m \left(\frac{1}{d^2}\right) = \frac{n}{d} - \frac{m}{4m^2 / n^2} = \frac{n}{d} - \frac{n^2}{4m} = \frac{n}{d} - \frac{n}{2d} = \frac{n}{2d}

Теорема о независимом множестве: В любом графе со средней степенью d1d \geq 1 существует независимое множество размера не менее n2d\frac{n}{2d}.

Если в графе на 1000 вершинах средняя степень вершин равна 10, то подстановка p=1/10p = 1/10 в среднем даёт 100 выбранных вершин и 5000×(0.01)=505000 \times (0.01) = 50 индуцированных рёбер. Удалив по одной вершине для каждого ребра, мы гарантированно сохраняем независимое множество из как минимум 50 вершин.

Разрешение парадокса: обхват против хроматического числа

Классическая интуиция теории графов подсказывает: чтобы граф имел высокое хроматическое число χ(G)\chi(G) (минимальное число цветов для правильной раскраски вершин, при которой смежные вершины разного цвета), в нём должно быть много плотных локальных сгустков — клик или коротких нечётных циклов. Если же в графе вовсе нет коротких циклов, локально любая окрестность вершины выглядит как дерево, которое раскрашивается всего в 2 цвета.

Напомним, что обхватом (girth) графа называют длину его наименьшего простого цикла. Казалось естественным предположить, что при высоком обхвате глобальное хроматическое число не может расти неограниченно.

В 1959 году Пал Эрдёш сокрушил эту гипотезу одной из самых изящных статей в истории комбинаторики, применив метод удаления.

Теорема Эрдёша (1959): Для любых натуральных чисел k3k \geq 3 и g3g \geq 3 существует граф GG, у которого одновременно:

  1. Обхват girth(G)>g\text{girth}(G) > g.
  2. Хроматическое число χ(G)>k\chi(G) > k.

Детерминированные конструкции таких графов чрезвычайно громоздки и появились лишь спустя десятилетия благодаря алгебраической геометрии и графам Рамануджана. Метод удаления доказывает существование объекта буквально на половине страницы.

Шаг 1. Случайная модель и компромисс плотности

Рассмотрим случайный граф Эрдеша — Реньи G(n,p)G(n, p) на nn вершинах, где каждое из (n2)\binom{n}{2} рёбер проводится независимо с вероятностью pp.

Перед нами стоят два противоположных требования:

  • Чтобы уничтожить все циклы длины g\leq g, рёбер должно быть мало (низкая вероятность pp).
  • Чтобы хроматическое число χ(G)\chi(G) было большим, число независимости α(G)\alpha(G) должно быть малым, так как в любой правильной раскраске каждый цветовой класс — это независимое множество. Из очевидного соотношения:

    χ(G)nα(G)\chi(G) \geq \frac{n}{\alpha(G)}

    следует: если мы добьёмся α(G)<nk\alpha(G) < \frac{n}{k}, то автоматически получим χ(G)>k\chi(G) > k. Но чтобы число независимости было малым, граф обязан быть достаточно плотным, то есть рёбер должно быть много (высокая вероятность pp).

Искусство метода удаления — найти узкий коридор для p(n)p(n), где плотность рёбер уже подавляет большие независимые множества, но число коротких циклов всё ещё растёт медленнее, чем число вершин.

Зафиксируем параметр θ(0,1/g)\theta \in (0, 1/g) и положим:

p=nθ1p = n^{\theta - 1}

Так как θ<1/g<1\theta < 1/g < 1, вероятность pp стремится к нулю при nn \to \infty, но произведение np=nθn p = n^\theta стремится к бесконечности.

Шаг 2. Подсчёт коротких циклов

Пусть CC — число циклов длины не более gg в случайном графе G(n,p)G(n, p). Любой цикл длины jj (где 3jg3 \leq j \leq g) задаётся упорядоченным набором из jj вершин. Число способов выбрать такой цикл в полном графе KnK_n равно:

n(n1)(nj+1)2jnj2j\frac{n(n-1)\dots(n-j+1)}{2j} \leq \frac{n^j}{2j}

Каждый такой цикл присутствует в G(n,p)G(n, p) с вероятностью pjp^j. В силу линейности математического ожидания:

E[C]=j=3gnj2jpjj=3gnj(nθ1)j=j=3gnjθ\mathbb{E}[C] = \sum_{j=3}^{g} \frac{n^j}{2j} p^j \leq \sum_{j=3}^{g} n^j (n^{\theta - 1})^j = \sum_{j=3}^{g} n^{j \theta}

Поскольку θ<1/g\theta < 1/g, показатель степени jθgθ<1j \theta \leq g \theta < 1. Наибольшее слагаемое в сумме достигается при j=gj = g:

E[C]gngθ=o(n)\mathbb{E}[C] \leq g \cdot n^{g \theta} = o(n)

Математическое ожидание числа коротких циклов растёт строго медленнее, чем nn. Применим неравенство Маркова: для любой неотрицательной случайной величины P(Cn/2)E[C]n/2\mathbb{P}(C \geq n/2) \leq \frac{\mathbb{E}[C]}{n/2}. Следовательно:

P(Cn2)2gngθn=2gngθ10при n\mathbb{P}\left(C \geq \frac{n}{2}\right) \leq \frac{2 g n^{g \theta}}{n} = 2 g n^{g \theta - 1} \to 0 \quad \text{при } n \to \infty

Значит, с вероятностью, стремящейся к 1, число коротких циклов в графе не превышает n/2n/2:

P(C<n2)>12(для достаточно больших n)\mathbb{P}\left(C < \frac{n}{2}\right) > \frac{1}{2} \quad \text{(для достаточно больших } n\text{)}

Шаг 3. Контроль числа независимости

Теперь оценим вероятность того, что в графе найдётся независимое множество размера r=n2kr = \lceil \frac{n}{2k} \rceil.

Для фиксированного подмножества из rr вершин вероятность того, что между ними нет ни одного ребра, равна (1p)(r2)(1 - p)^{\binom{r}{2}}. Число таких подмножеств равно (nr)\binom{n}{r}. Оценим вероятность существования хотя бы одного независимого множества размера rr через неравенство Буля:

P(α(G)r)(nr)(1p)(r2)\mathbb{P}(\alpha(G) \geq r) \leq \binom{n}{r} (1 - p)^{\binom{r}{2}}

Воспользуемся стандартными оценками (nr)(enr)r\binom{n}{r} \leq \left(\frac{e n}{r}\right)^r и 1pep1 - p \leq e^{-p}:

P(α(G)r)(enr)repr(r1)/2=(enrep(r1)/2)r\mathbb{P}(\alpha(G) \geq r) \leq \left(\frac{e n}{r}\right)^r e^{-p r (r - 1) / 2} = \left(\frac{e n}{r} \cdot e^{-p (r - 1) / 2}\right)^r

Подставим значения rn2kr \approx \frac{n}{2k} и p=nθ1p = n^{\theta - 1}:

enr2ek=const\frac{e n}{r} \approx 2 e k = \text{const}

Показатель экспоненты:

p(r1)2nθ1n4k=nθ4kпри n\frac{p (r - 1)}{2} \approx \frac{n^{\theta - 1} \cdot n}{4k} = \frac{n^\theta}{4k} \to \infty \quad \text{при } n \to \infty

Следовательно, выражение под знаком степени стремится к нулю:

enrep(r1)/20\frac{e n}{r} \cdot e^{-p (r - 1) / 2} \to 0

Отсюда вероятность существования независимого множества размера rr стремительно убывает:

P(α(G)r)0при n\mathbb{P}(\alpha(G) \geq r) \to 0 \quad \text{при } n \to \infty

Для достаточно больших nn эта вероятность строго меньше 1/21/2.

Шаг 4. Детерминированная чистка

Объединим результаты двух шагов. Так как:

P(Cn2)<12иP(α(G)r)<12\mathbb{P}\left(C \geq \frac{n}{2}\right) < \frac{1}{2} \quad \text{и} \quad \mathbb{P}(\alpha(G) \geq r) < \frac{1}{2}

По неравенству Буля вероятность того, что нарушится хотя бы одно из условий, строго меньше 1/2+1/2=11/2 + 1/2 = 1. Следовательно, существует исход — конкретный граф G0G_0 на nn вершинах, для которого одновременно выполнены два свойства:

  1. Число коротких циклов C<n/2C < n/2.
  2. Размер наибольшего независимого множества α(G0)<r=n2k\alpha(G_0) < r = \lceil \frac{n}{2k} \rceil.

Теперь проведём операцию удаления: из каждого цикла длины g\leq g удалим ровно по одной вершине. Обозначим полученный индуцированный подграф через GG^*.

Проверим свойства очищенного графа GG^*:

  • Обхват: мы разрушили абсолютно все циклы длины g\leq g, удалив из каждого хотя бы одну вершину. Следовательно, в GG^* нет циклов длины g\leq g, и girth(G)>g\text{girth}(G^*) > g.
  • Число вершин: поскольку всего циклов было C<n/2C < n/2, мы удалили строго меньше n/2n/2 вершин. Число вершин графа GG^* составляет:

    V(G)=nC>nn2=n2|V(G^*)| = n - C > n - \frac{n}{2} = \frac{n}{2}

  • Хроматическое число: подграф не может иметь число независимости больше, чем исходный граф, ведь любое независимое множество в GG^* уже было независимым множеством в G0G_0. Значит:

    α(G)α(G0)<n2k\alpha(G^*) \leq \alpha(G_0) < \frac{n}{2k}

    Оценим хроматическое число GG^*:

    χ(G)V(G)α(G)>n/2n/(2k)=k\chi(G^*) \geq \frac{|V(G^*)|}{\alpha(G^*)} > \frac{n / 2}{n / (2k)} = k

Мы сконструировали граф GG^*, у которого обхват строго больше gg, а хроматическое число строго больше kk.

Границы применимости: когда удаления недостаточно

Метод удаления демонстрирует поразительную силу там, где дефекты носят разреженный характер. Если математическое ожидание числа нарушений составляет o(n)o(n) (или в более общем смысле строго меньше масштаба целевого множества), простая поштучная ликвидация дефектов почти не меняет глобальных характеристик системы.

Однако у метода удаления есть фундаментальное ограничение. Он работает только тогда, когда дефекты изолированы или слабо перекрываются. Если параметр плотности случайного графа сдвинуть так, что дефекты начнут образовывать плотные кластеры, устранение дефектов приведёт к вырождению структуры: удаление вершин потянет за собой уничтожение почти всего графа.

В ситуациях, когда дефектов много, но каждый отдельный дефект зависит лишь от ограниченного числа других, требуется более глубокий аналитический инструмент, оценивающий не средние значения, а локальную топологию зависимостей событий.

Метод второго момента и пороговые свойства случайных графов

Метод второго момента и пороговые свойства случайных графов

Математическое ожидание неотрицательной целочисленной случайной величины способно уходить в бесконечность, пока вероятность встретить хотя бы один ненулевой исход стремительно падает до нуля. Достаточно представить величину XX, принимающую гигантское значение M=2nM = 2^n с ничтожной вероятностью 2n/22^{-n/2}, а в остальных случаях равную нулю: её среднее E[X]=2n/2\mathbb{E}[X] = 2^{n/2} \to \infty, однако событие X>0X > 0 наступает лишь с исчезающей вероятностью 2n/202^{-n/2} \to 0. Первого момента категорически недостаточно, чтобы гарантировать существование объекта в типичном графе, если дисперсия раздувает хвосты распределения.

Чтобы превратить стремление среднего в доказательство почти достоверного присутствия структуры, необходим контроль над рассеянием значений вокруг центра — метод второго момента.

От математического ожидания к концентрации: неравенство Чебышёва

Если исследуется случайная величина X0X \geq 0, принимающая целые неотрицательные значения (например, число копий заданного подграфа в случайном графе G(n,p)G(n, p)), равенство X=0X = 0 означает, что объект не реализовался. Задача состоит в том, чтобы строго доказать: при определённых параметрах графа P(X=0)0\mathbb{P}(X = 0) \to 0 при nn \to \infty.

Оценка снизу на вероятность появления объекта через первый и второй моменты выводится напрямую из классического неравенства Чебышёва:

P(XE[X]E[X])Var(X)(E[X])2\mathbb{P}(|X - \mathbb{E}[X]| \geq \mathbb{E}[X]) \leq \frac{\mathrm{Var}(X)}{(\mathbb{E}[X])^2}

Поясним каждый элемент:

  • XX — целочисленная неотрицательная случайная величина (число искомых конфигураций).
  • E[X]\mathbb{E}[X] — математическое ожидание величины XX.
  • Var(X)=E[X2](E[X])2\mathrm{Var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2 — дисперсия величины XX, измеряющая средний квадрат отклонения от центра.
  • Событие XE[X]E[X]|X - \mathbb{E}[X]| \geq \mathbb{E}[X] означает, что отклонение величины влево или вправо от среднего не меньше самого среднего. Поскольку X0X \geq 0, попадание в левый хвост (XE[X]E[X]X - \mathbb{E}[X] \leq -\mathbb{E}[X]) эквивалентно в точности исходу X0X \leq 0, то есть X=0X = 0.

Следовательно, вероятность ненаступления события ограничена сверху:

P(X=0)P(XE[X]E[X])Var(X)(E[X])2\mathbb{P}(X = 0) \leq \mathbb{P}(|X - \mathbb{E}[X]| \geq \mathbb{E}[X]) \leq \frac{\mathrm{Var}(X)}{(\mathbb{E}[X])^2}

Ключевой принцип метода второго момента: Если для неотрицательной случайной величины XX выполнено предельное соотношение Var(X)=o((E[X])2)\mathrm{Var}(X) = o((\mathbb{E}[X])^2) при nn \to \infty, то P(X=0)0\mathbb{P}(X = 0) \to 0, а значит, P(X>0)1\mathbb{P}(X > 0) \to 1. В этом случае говорят, что свойство выполняется асимптотически почти наверное (a.a.s. — asymptotically almost surely).

Анатомия дисперсии суммы индикаторов

В комбинаторных задачах величина XX практически всегда раскладывается в сумму индикаторов:

X=iIXiX = \sum_{i \in \mathcal{I}} X_i

где I\mathcal{I} — семейство потенциальных мест размещения структуры (например, все возможные наборы из kk вершин), а Xi=1X_i = 1, если на ii-м наборе подграф действительно реализовался, и Xi=0X_i = 0 в противном случае.

В отличие от вычисления математического ожидания E[X]=E[Xi]\mathbb{E}[X] = \sum \mathbb{E}[X_i], где зависимость слагаемых не играла роли, дисперсия напрямую вскрывает парные корреляции:

Var(X)=iIVar(Xi)+ijCov(Xi,Xj)\mathrm{Var}(X) = \sum_{i \in \mathcal{I}} \mathrm{Var}(X_i) + \sum_{i \neq j} \mathrm{Cov}(X_i, X_j)

Для каждого индикатора XiX_i:

Var(Xi)=E[Xi2](E[Xi])2=P(Xi=1)(P(Xi=1))2P(Xi=1)=E[Xi]\mathrm{Var}(X_i) = \mathbb{E}[X_i^2] - (\mathbb{E}[X_i])^2 = \mathbb{P}(X_i = 1) - (\mathbb{P}(X_i = 1))^2 \leq \mathbb{P}(X_i = 1) = \mathbb{E}[X_i]

Сумма дисперсий отдельных слагаемых тривиально ограничивается сверху первым моментом:

iIVar(Xi)E[X]\sum_{i \in \mathcal{I}} \mathrm{Var}(X_i) \leq \mathbb{E}[X]

Если E[X]\mathbb{E}[X] \to \infty, то эта часть в отношении к (E[X])2(\mathbb{E}[X])^2 исчезает: E[X](E[X])2=1E[X]0\frac{\mathbb{E}[X]}{(\mathbb{E}[X])^2} = \frac{1}{\mathbb{E}[X]} \to 0.

Вся тяжесть анализа переносится на ковариации:

Cov(Xi,Xj)=E[XiXj]E[Xi]E[Xj]=P(Xi=1Xj=1)P(Xi=1)P(Xj=1)\mathrm{Cov}(X_i, X_j) = \mathbb{E}[X_i X_j] - \mathbb{E}[X_i] \mathbb{E}[X_j] = \mathbb{P}(X_i = 1 \wedge X_j = 1) - \mathbb{P}(X_i = 1)\mathbb{P}(X_j = 1)

В модели Эрдёша — Реньи G(n,p)G(n, p) рёбра возникают независимо. Если две структуры ii и jj не разделяют ни одного общего ребра, события Xi=1X_i = 1 и Xj=1X_j = 1 независимы, откуда Cov(Xi,Xj)=0\mathrm{Cov}(X_i, X_j) = 0.

Ковариация строго положительна лишь тогда, когда подграфы делят общие рёбра. Обозначим отношение зависимости между индексами как iji \sim j (iji \neq j, подграфы пересекаются хотя бы по одному ребру). Тогда:

ijCov(Xi,Xj)ijE[XiXj]=iIP(Xi=1)jiP(Xj=1Xi=1)\sum_{i \neq j} \mathrm{Cov}(X_i, X_j) \leq \sum_{i \sim j} \mathbb{E}[X_i X_j] = \sum_{i \in \mathcal{I}} \mathbb{P}(X_i = 1) \sum_{j \sim i} \mathbb{P}(X_j = 1 \mid X_i = 1)

Из соображений симметрии графа величина Δ=jiP(Xj=1Xi=1)\Delta^* = \sum_{j \sim i} \mathbb{P}(X_j = 1 \mid X_i = 1) одинакова для любого фиксированного индекса ii. Тогда сумма сворачивается:

ijE[XiXj]=E[X]Δ\sum_{i \sim j} \mathbb{E}[X_i X_j] = \mathbb{E}[X] \cdot \Delta^*

Деля на (E[X])2(\mathbb{E}[X])^2, получаем компактный операционный критерий метода второго момента:

Var(X)(E[X])21E[X]+ΔE[X]\frac{\mathrm{Var}(X)}{(\mathbb{E}[X])^2} \leq \frac{1}{\mathbb{E}[X]} + \frac{\Delta^*}{\mathbb{E}[X]}

Чтобы доказать, что X>0X > 0 почти наверное, необходимо проверить выполнение двух условий:

  1. E[X]\mathbb{E}[X] \to \infty;
  2. Δ=o(E[X])\Delta^* = o(\mathbb{E}[X]).

Пороговые функции вероятности

В детерминированных графах добавление рёбер меняет топологию дискретными шагами. В модели G(n,p)G(n, p), где каждое из (n2)\binom{n}{2} рёбер включается независимо с вероятностью p=p(n)p = p(n), монотонные свойства графа ведут себя качественно иначе: возникает эффект резкого фазового перехода.

Определение пороговой функции: Функция r(n)r(n) называется пороговой (threshold) для монотонного возрастающего свойства P\mathcal{P} в модели G(n,p)G(n, p), если:

limnP(G(n,p)P)={0,если p(n)=o(r(n))1,если r(n)=o(p(n))\lim_{n \to \infty} \mathbb{P}(G(n, p) \in \mathcal{P}) = \begin{cases} 0, & \text{если } p(n) = o(r(n)) \\ 1, & \text{если } r(n) = o(p(n)) \end{cases}

Доказательство порога всегда двустороннее и реализуется через тандем методов:

  • Метод первого момента (0-закон): если p(n)r(n)p(n) \ll r(n), доказывается, что E[X]0\mathbb{E}[X] \to 0. По неравенству Маркова P(X1)E[X]0\mathbb{P}(X \geq 1) \leq \mathbb{E}[X] \to 0, то есть подграфов нет a.a.s.
  • Метод второго момента (1-закон): если p(n)r(n)p(n) \gg r(n), проверяется, что E[X]\mathbb{E}[X] \to \infty и Δ=o(E[X])\Delta^* = o(\mathbb{E}[X]), что гарантирует P(X=0)0\mathbb{P}(X = 0) \to 0, то есть подграф присутствует a.a.s.

Порог появления треугольника: детальный расчёт

Продемонстрируем работу связки первого и второго моментов на базовой структурной единице — цикле длины 3 (K3K_3).

Пусть XX — число копий K3K_3 в графе G(n,p)G(n, p). Всего возможных троек вершин (n3)\binom{n}{3}. Для каждой тройки ii индикатор Xi=1X_i = 1, если все 3 ребра между ними присутствуют, с вероятностью P(Xi=1)=p3\mathbb{P}(X_i = 1) = p^3.

Шаг 1: Математическое ожидание и гипотеза о пороге

E[X]=(n3)p3=n(n1)(n2)6p3n3p36\mathbb{E}[X] = \binom{n}{3} p^3 = \frac{n(n-1)(n-2)}{6} p^3 \sim \frac{n^3 p^3}{6}

Поведение E[X]\mathbb{E}[X] критически зависит от скорости убывания p(n)p(n):

  • Если p(n)=o(1/n)p(n) = o(1/n), то np0n p \to 0, откуда E[X]0\mathbb{E}[X] \to 0. По методу первого момента P(X1)0\mathbb{P}(X \geq 1) \to 0.
  • Если p(n)1/np(n) \gg 1/n, то npn p \to \infty, откуда E[X]\mathbb{E}[X] \to \infty.

Кандидат на пороговую функцию найден: r(n)=1/nr(n) = 1/n. Теперь необходимо доказать, что при p(n)1/np(n) \gg 1/n треугольники действительно обязаны появиться.

Шаг 2: Классификация пересечений и оценка ковариации

Зафиксируем конкретный треугольник i={u,v,w}i = \{u, v, w\}. Рассмотрим произвольный другой треугольник jj и классифицируем их возможное взаимное расположение:

| Пересечение по вершинам V(i)V(j)|V(i) \cap V(j)| | Число общих рёбер | Число способов выбрать jj | P(Xj=1Xi=1)\mathbb{P}(X_j = 1 \mid X_i = 1) | Вклад в Δ\Delta^* | |---|---|---|---|---| | 00 или 11 | 00 | (n33)+3(n32)\binom{n-3}{3} + 3\binom{n-3}{2} | p3p^3 | 00 (не входят в jij \sim i) | | 22 | 11 | 3(n3)3 \cdot (n - 3) | p2p^2 | O(np2)O(n p^2) | | 33 | 33 | совпадает с ii | — | не учитывается (jij \neq i) |

Два различных треугольника могут делить либо 0 рёбер (если у них 0 или 1 общая вершина), либо ровно 1 ребро (если у них 2 общие вершины). Разделить сразу 2 ребра они не могут: любые два ребра треугольника содержат все три его вершины, что однозначно задает сам треугольник.

Следовательно, сумма условных вероятностей по зависимым индексам содержит только слагаемые с одним общим ребром:

Δ=jiP(Xj=1Xi=1)=3(n3)p2=O(np2)\Delta^* = \sum_{j \sim i} \mathbb{P}(X_j = 1 \mid X_i = 1) = 3(n - 3) \cdot p^2 = O(n p^2)

Поясним множители: 33 — способ выбрать общее ребро в треугольнике ii, (n3)(n - 3) — способ выбрать третью вершину треугольника jj, p2p^2 — вероятность появления двух оставшихся рёбер треугольника jj (общее ребро уже гарантированно присутствует в условии Xi=1X_i = 1).

Шаг 3: Проверка условия сходимости

Сопоставим Δ\Delta^* с математическим ожиданием:

ΔE[X]=Θ(np2)Θ(n3p3)=Θ(1n2p)\frac{\Delta^*}{\mathbb{E}[X]} = \frac{\Theta(n p^2)}{\Theta(n^3 p^3)} = \Theta\left(\frac{1}{n^2 p}\right)

При p(n)1/np(n) \gg 1/n подставим худший случай: пусть p(n)=ω(n)/np(n) = \omega(n) / n, где ω(n)\omega(n) \to \infty сколь угодно медленно. Тогда:

1n2p=1n2ω(n)n=1nω(n)0\frac{1}{n^2 p} = \frac{1}{n^2 \cdot \frac{\omega(n)}{n}} = \frac{1}{n \cdot \omega(n)} \to 0

Отношение стремится к нулю с запасом (для обращения дроби в ноль было бы достаточно даже pn2p \gg n^{-2}, однако условие E[X]\mathbb{E}[X] \to \infty требует pn1p \gg n^{-1}).

Таким образом, при p(n)1/np(n) \gg 1/n выполнено:

Var(X)(E[X])21E[X]+ΔE[X]0\frac{\mathrm{Var}(X)}{(\mathbb{E}[X])^2} \leq \frac{1}{\mathbb{E}[X]} + \frac{\Delta^*}{\mathbb{E}[X]} \to 0

Следовательно, P(X=0)0\mathbb{P}(X = 0) \to 0, и функция r(n)=1/nr(n) = 1/n строго доказана в качестве пороговой для свойства «содержать подграф K3K_3».

Обобщение: плотность подграфов и сбалансированность

Возникает фундаментальный вопрос: верно ли, что для произвольного графа HH с vHv_H вершинами и eHe_H рёбрами порог появления всегда равен nvH/eHn^{-v_H / e_H} (точке, где E[X]=Θ(nvHpeH)1\mathbb{E}[X] = \Theta(n^{v_H} p^{e_H}) \approx 1)?

Ответ отрицателен, и причина кроется в локальных скоплениях рёбер внутри подструктур.

Пусть, например, граф HH состоит из клики K4K_4, к одной из вершин которой присоединён висячий край. У такого графа vH=5v_H = 5 вершин и eH=7e_H = 7 рёбер. Точка E[X]1\mathbb{E}[X] \approx 1 даёт наивный порог p=n5/7n0.714p = n^{-5/7} \approx n^{-0.714}. Если задать вероятность p=n0.7p = n^{-0.7}, среднее число копий всего графа уходит в бесконечность: E[X]=Θ(n5(n0.7)7)=Θ(n0.1)\mathbb{E}[X] = \Theta(n^5 (n^{-0.7})^7) = \Theta(n^{0.1}) \to \infty. Однако математическое ожидание числа 4-клик K4K_4 равно Θ(n4(n0.7)6)=Θ(n0.2)0\Theta(n^4 (n^{-0.7})^6) = \Theta(n^{-0.2}) \to 0. Клики K4K_4 в графе отсутствуют a.a.s., а значит, не может появиться и вся конструкция HH.

Препятствием к глобальному появлению графа служат его наиболее плотные подграфы.

Определение максимальной плотности подграфа: Для непустого графа HH плотностью называется отношение d(H)=eHvHd(H) = \frac{e_H}{v_H}. Максимальная плотность подграфов определяется как:

m(H)=maxHH,vH>0eHvHm(H) = \max_{H' \subseteq H, \, v_{H'} > 0} \frac{e_{H'}}{v_{H'}}

Граф HH называется сбалансированным, если m(H)=eHvHm(H) = \frac{e_H}{v_H}, то есть ни один его собственный подграф не превосходит сам граф по плотности.

Теорема Боллобаша (1981)

Для любого фиксированного графа HH, содержащего хотя бы одно ребро, пороговой функцией появления изоморфной копии HH в случайном графе G(n,p)G(n, p) является:

r(n)=n1/m(H)r(n) = n^{-1/m(H)}

Если граф сбалансирован (например, полный граф KkK_k, цикл CkC_k или полный двудольный граф с равными долями Kr,rK_{r, r}), то m(H)=eH/vHm(H) = e_H / v_H, и порог определяется непосредственно по глобальному математическому ожиданию: r(n)=nvH/eHr(n) = n^{-v_H / e_H}. Для несбалансированных графов именно плотнейшая часть выступает «бутылочным горлышком», определяющим фазовый переход всей конструкции.

В арсенале вероятностного метода второй момент снимает барьер между «средним полем» и фактической реализацией: достаточно исключить доминирование тесных пересечений в ковариационной сумме, чтобы случайный объект гарантированно обрёл строго заданную подструктуру.

Локальная лемма Ловаса и независимость зависимых событий

Локальная лемма Ловаса и независимость зависимых событий

Когда вероятность объединения нежелательных событий P(Ai)\sum \mathbb{P}(A_i) превышает единицу, неравенство Буля перестает давать содержательный ответ. Метод удаления решает эту проблему «хирургически» — допускает появление небольшого числа нарушений, а затем удаляет дефектные элементы. Но что делать, если каждое удаление разрушает структуру целиком, либо дефекты переплетены так тесно, что удаление одного влечет лавину новых нарушений?

Представьте систему из миллионов событий, каждое из которых наступает с исчезающе малой вероятностью, скажем, p=106p = 10^{-6}. Если бы все они были взаимно независимы, вероятность избежать каждого из них равнялась бы (1p)N>0(1 - p)^N > 0. Однако в дискретных структурах полная независимость — исключительная редкость. В то же время зависимости почти всегда носят локальный характер: факт монохроматичности клики на некотором наборе вершин зависит только от клик, пересекающихся с ней хотя бы по одному ребру, и абсолютно не зависит от сотен тысяч клик в удаленных частях графа.

Локальная лемма Ловаса (Lovász Local Lemma, или LLL), доказанная Ласло Ловасом и Палом Эрдёшем в 1975 году, преодолевает барьер зависимости: если каждое плохое событие вероятно мало и зависит лишь от ограниченного числа других плохих событий, то с положительной вероятностью ни одно из них не произойдет.

Портрет Ласло Ловаса

Граф зависимостей

Чтобы формализовать понятие «локальности», необходимо строго определить, что значит «событие зависит лишь от немногих других». Попарной независимости здесь недостаточно: требуется независимость от любой булевой комбинации не связанных событий.

Определение. Пусть A1,A2,,AnA_1, A_2, \dots, A_n — случайные события в некотором вероятностном пространстве. Граф D=(V,E)D = (V, E) с вершинами V={1,2,,n}V = \{1, 2, \dots, n\} называется графом зависимостей для этой системы событий, если для каждого i{1,,n}i \in \{1, \dots, n\} событие AiA_i взаимно независимо с любой алгеброй событий, порожденной подмножеством {Aj:(i,j)E,ji}\{A_j : (i, j) \notin E, j \neq i\}.

Иными словами, для любого набора индексов J{j:(i,j)E,ji}J \subseteq \{j : (i, j) \notin E, j \neq i\} должно выполняться:

P(Ai  |  jJAj)=P(Ai).\mathbb{P}\left(A_i \;\middle|\; \bigcap_{j \in J} \overline{A_j}\right) = \mathbb{P}(A_i).

На практике случайность чаще всего порождается набором независимых элементарных переменных X1,,XmX_1, \dots, X_m (например, цветами ребер или значениями булевых переменных). Если каждое событие AiA_i определяется значениями только некоторого подмножества переменных v(Ai){X1,,Xm}v(A_i) \subseteq \{X_1, \dots, X_m\}, то граф зависимостей строится тривиально: мы соединяем ребрами те пары (Ai,Aj)(A_i, A_j), для которых v(Ai)v(Aj)v(A_i) \cap v(A_j) \neq \emptyset. Если подмножества переменных не пересекаются, события взаимно независимы по определению.

Симметричная форма леммы

Классический результат формулируется в терминах максимальной степени графа зависимостей dd и максимальной вероятности нежелательного события pp.

Теорема (Симметричная лемма Ловаса). Пусть A1,A2,,AnA_1, A_2, \dots, A_n — события с графом зависимостей DD, максимальная степень вершин которого не превосходит dd. Если для всех ii выполнено P(Ai)p\mathbb{P}(A_i) \leq p, и при этом:

ep(d+1)1,e \cdot p \cdot (d + 1) \leq 1,

то вероятность того, что ни одно из событий не произойдет, строго положительна:

P(i=1nAi)(1ep)n>0.\mathbb{P}\left(\bigcap_{i=1}^n \overline{A_i}\right) \geq (1 - e p)^n > 0.

Erdős, Lovász, 1975

Константа e2.718e \approx 2.718 возникает здесь как предел последовательности (1+1/d)d(1 + 1/d)^d. Поясним все элементы формулы:

  • pp — верхняя граница вероятности индивидуального «дефекта» (плохого события AiA_i).
  • dd — степень вершины в графе зависимостей: максимальное число других дефектов, делящих общие случайные переменные с AiA_i.
  • множитель (d+1)(d + 1) отражает влияние локального окружения с учетом самого события.

Пример: пусть генерируется граф, в котором каждое из 10910^9 нежелательных событий имеет вероятность p=1/1000p = 1/1000. По неравенству Буля сумма вероятностей равна 106110^6 \gg 1. Но если каждое событие делит общие случайные биты не более чем с d=100d = 100 другими событиями, проверяем условие леммы:

ep(d+1)2.7180.0011010.27451.e \cdot p \cdot (d + 1) \approx 2.718 \cdot 0.001 \cdot 101 \approx 0.2745 \leq 1.

Условие выполнено! Несмотря на то что событий миллиард, конфигурация без единого дефекта гарантированно существует. Число событий nn вообще не входит в критерий ep(d+1)1e p (d + 1) \leq 1: имеет значение лишь плотность локальных связей.

Асимметричная форма: когда события неоднородны

Если вероятности событий сильно различаются или граф зависимостей имеет неравномерные степени, симметричная версия заставляет ориентироваться на худший случай, завышая требования к редким событиям. Для таких ситуаций Ловас получил взвешенную версию.

Теорема (Общая асимметричная лемма Ловаса). Пусть D=(V,E)D = (V, E) — граф зависимостей для событий A1,,AnA_1, \dots, A_n. Обозначим через Γ(i)={j:(i,j)E}\Gamma(i) = \{j : (i, j) \in E\} множество соседей вершины ii. Если существуют вещественные числа x1,x2,,xn[0,1)x_1, x_2, \dots, x_n \in [0, 1) такие, что для каждого i{1,,n}i \in \{1, \dots, n\}:

P(Ai)xijΓ(i)(1xj),\mathbb{P}(A_i) \leq x_i \prod_{j \in \Gamma(i)} (1 - x_j),

то вероятность одновременного ненаступления всех событий строго положительна:

P(i=1nAi)i=1n(1xi)>0.\mathbb{P}\left(\bigcap_{i=1}^n \overline{A_i}\right) \geq \prod_{i=1}^n (1 - x_i) > 0.

Каждое число xix_i интуитивно интерпретируется как верхняя граница условной вероятности P(AijSAj)\mathbb{P}(A_i \mid \bigcap_{j \in S} \overline{A_j}) при кондиционировании на произвольный набор уже устраненных событий.

Симметричная форма получается из общей мгновенно: если положить все xi=1d+1x_i = \frac{1}{d + 1}, то при Γ(i)d|\Gamma(i)| \leq d правая часть оценивается снизу:

xijΓ(i)(1xj)1d+1(11d+1)d>1d+11e.x_i \prod_{j \in \Gamma(i)} (1 - x_j) \geq \frac{1}{d + 1} \left(1 - \frac{1}{d + 1}\right)^d > \frac{1}{d + 1} \cdot \frac{1}{e}.

Отсюда сразу вытекает условие P(Ai)1e(d+1)\mathbb{P}(A_i) \leq \frac{1}{e(d+1)}.

Характеристика Симметричная LLL Асимметричная LLL
Входные данные Максимум p=maxP(Ai)p = \max \mathbb{P}(A_i) и максимум d=maxdeg(i)d = \max \deg(i) Точные вероятности P(Ai)\mathbb{P}(A_i) и структура окрестностей Γ(i)\Gamma(i)
Вычислительная сложность Простая проверка скалярного неравенства Поиск вектора весов (x1,,xn)(x_1, \dots, x_n)
Область применения Однородные структуры (графы Рамсея, однородный гиперграф) Неоднородные задачи (клаузы переменной длины в SAT, разреженные сетки)

Прорыв в нижних оценках чисел Рамсея: теорема Спенсера

В первой теме курса мы получили классическую нижнюю оценку Эрдёша (1947) для диагональных чисел Рамсея через прямое применение неравенства Буля:

R(k,k)>2ek2k/2(1+o(1)).R(k, k) > \frac{\sqrt{2}}{e} k 2^{k/2} (1 + o(1)).

Долгие десятилетия этот результат оставался непревзойденным: ни метод второго момента, ни метод удаления не позволяли улучшить константу перед k2k/2k 2^{k/2}. В 1975 году Джоэл Спенсер применил локальную лемму Ловаса и совершил качественный прорыв.

Рассмотрим полный граф KnK_n, ребра которого независимо окрашиваются в 2 цвета с вероятностью 1/21/2. Для каждого из (nk)\binom{n}{k} подмножеств вершин SVS \subset V размера S=k|S| = k определим нежелательное событие ASA_S: клика на вершинах SS монохроматична.

Вероятность каждого такого события равна:

p=P(AS)=2(12)(k2)=21(k2).p = \mathbb{P}(A_S) = 2 \cdot \left(\frac{1}{2}\right)^{\binom{k}{2}} = 2^{1 - \binom{k}{2}}.

Построим граф зависимостей. Два события ASA_S и ATA_T зависят друг от друга тогда и только тогда, когда соответствующие подграфы делят хотя бы одно общее ребро, то есть ST2|S \cap T| \geq 2.

Оценим степень вершины dd в графе зависимостей: для фиксированного множества SS посчитаем число подмножеств TT размера kk, пересекающих SS хотя бы по 2 вершинам:

di=2k1(ki)(nkki).d \leq \sum_{i=2}^{k-1} \binom{k}{i} \binom{n - k}{k - i}.

Основной вклад в эту сумму вносит слагаемое при i=2i = 2. При n=ck2k/2n = c \cdot k 2^{k/2} слагаемые с большими пересечениями пренебрежимо малы по сравнению с i=2i = 2:

d(k2)(nkk2)k22nk2(k2)!=(nk)(k2)(nkk2)(nk)k22nk2(k2)!.d \approx \binom{k}{2} \binom{n - k}{k - 2} \leq \frac{k^2}{2} \cdot \frac{n^{k-2}}{(k-2)!} = \binom{n}{k} \cdot \frac{\binom{k}{2} \binom{n-k}{k-2}}{\binom{n}{k}} \approx \frac{k^2}{2} \frac{n^{k-2}}{(k-2)!}.

Применим критерий симметричной леммы: достаточно потребовать epd1e \cdot p \cdot d \leq 1. Подставляя p=21(k2)p = 2^{1 - \binom{k}{2}} и оптимизируя параметр nn, Спенсер доказал:

R(k,k)>2eek2k/2(1+o(1))=2e(1+o(1))2k2k/2.R(k, k) > \frac{\sqrt{2} e}{e} k 2^{k/2} (1 + o(1)) = \frac{\sqrt{2}}{e} (1 + o(1)) \cdot \sqrt{2} \cdot k 2^{k/2}.

В численном выражении оценка Эрдёша дает множитель 2e0.520\frac{\sqrt{2}}{e} \approx 0.520, тогда как лемма Ловаса удваивает константу до 22e=2e0.736\frac{\sqrt{2} \cdot \sqrt{2}}{e} = \frac{2}{e} \approx 0.736.

Почему локальная лемма справилась там, где метод удаления дал сбой? В методе удаления при нарушении монохроматичности мы стирали ребро. Но удаление одного ребра меняет степени вершин и разрушает баланс для десятков других потенциальных клик, требуя глобального пересчета. Локальная лемма Ловаса работает без разрушения структуры: она доказала, что чисто случайная раскраска с нужным свойством уже содержит неповрежденные конфигурации в силу разреженности пересечений.

Применение к задаче о выполнимости: kk-SAT

Продемонстрируем силу метода на классической задаче теоретической информатики — выполнимости булевых формул в конъюнктивной нормальной форме (kk-CNF).

Пусть дана формула Φ=C1C2Cm\Phi = C_1 \wedge C_2 \wedge \dots \wedge C_m, где каждая клауза CiC_i содержит ровно kk различных литералов над общим множеством переменных {x1,,xN}\{x_1, \dots, x_N\}. Спрашивается: при каких условиях на структуру пересечений гарантированно существует выполняющий набор?

Назначим каждой переменной xjx_j значение TRUE\mathrm{TRUE} или FALSE\mathrm{FALSE} независимо с вероятностью 1/21/2. Для каждой клаузы CiC_i определим нежелательное событие:

Ai={клауза Ci не удовлетворена}.A_i = \{\text{клауза } C_i \text{ не удовлетворена}\}.

Поскольку клауза состоит из дизъюнкции kk литералов, она ложна в единственном случае — когда каждый литерал принимает ложное значение:

p=P(Ai)=(12)k=2k.p = \mathbb{P}(A_i) = \left(\frac{1}{2}\right)^k = 2^{-k}.

Построим граф зависимостей: событие AiA_i соединено ребром с AjA_j, если клаузы CiC_i и CjC_j имеют хотя бы одну общую переменную. Пусть каждая клауза пересекается по переменным не более чем с dd другими клаузами.

По симметричной лемме Ловаса, формула выполнима, если:

e2k(d+1)1    d2ke1.e \cdot 2^{-k} \cdot (d + 1) \leq 1 \iff d \leq \frac{2^k}{e} - 1.

Этот результат поражает своей независимостью от размера системы: общее число клауз mm может исчисляться триллионами, а число переменных — миллионами. Если каждая отдельная клауза пересекается не более чем с 2k/e\approx 2^k / e другими клаузами, формула всегда выполнима.

Ни простое неравенство Буля (требующее m<2km < 2^k), ни методы математического ожидания не способны дать такой гарантии для сколь угодно больших формул.

От чистого существования к эффективным алгоритмам

На протяжении 35 лет локальная лемма Ловаса оставалась исключительно неконструктивным инструментом. Она гарантировала, что выполняющий набор или правильная раскраска существуют, но алгоритмический поиск объекта наталкивался на экспоненциальную стену: случайное блуждание или генерация сэмплов требовали времени Ω(1/P())\Omega(1/\mathbb{P}(\dots)), которое экспоненциально велико.

В 2009 году Робин Мозер и Габор Тардош совершили революцию в дискретной математике, предложив алгоритм с элементарным правилом пересэмплирования:

# Концептуальная схема алгоритма Мозера — Тардоша
def moser_tardos(variables, clauses):
    assignment = random_truth_assignment(variables)
    while any_violated(clauses, assignment):
        C = pick_arbitrary_violated_clause(clauses, assignment)
        # Пересэмплируем только переменные нарушенной клаузы!
        resample_variables(C, assignment)
    return assignment

Мозер и Тардош доказали с помощью техники деревьев свидетелей (witness trees), что если выполнено условие асимметричной леммы Ловаса с небольшим запасом:

P(Ai)xi(1ε)jΓ(i)(1xj),\mathbb{P}(A_i) \leq x_i (1 - \varepsilon) \prod_{j \in \Gamma(i)} (1 - x_j),

то жадный алгоритм пересэмплирования находит корректную конфигурацию за ожидаемое полиномиальное время O(m/ε)O(m / \varepsilon) шагов. Тем самым граница между неконструктивным вероятностным существованием и эффективным поиском была полностью стерта.

Локальная лемма Ловаса объединяет идеи независимости и локальных ограничений: когда глобальные методы суммы вероятностей терпят крах из-за масштаба задачи, достаточно гарантировать, что плотность связей в графе зависимостей удерживается в допустимых пределах.

Практикум применения вероятностных оценок к нестандартным задачам

Практикум применения вероятностных оценок к нестандартным задачам

Если подмножество множества {1,2,,n}\{1, 2, \dots, n\} не содержит ни одной пары элементов, где один делит другой, насколько большим оно может быть? Легко проверить, что выбор всех чисел из второй половины диапазона, от n/2+1\lfloor n/2 \rfloor + 1 до nn, даёт ровно n/2\lceil n/2 \rceil взаимно неделимых чисел. Но что произойдёт, если мы потребуем то же свойство не для делимости чисел, а для включения множеств: каков максимальный размер семейства подмножеств, ни одно из которых не содержится в другом? Детерминированный подсчёт через комбинаторные разложения быстро наталкивается на громоздкие рекуррентные соотношения. Однако если посмотреть на задачу через случайный процесс, ответ сворачивается ровно в одну строчку.

Разрозненные вероятностные техники — линейность математического ожидания, метод удаления, локальная лемма Ловаса — работают не как изолированные рецепты, а как единая оптика. Чтобы увидеть эту оптику в действии, разберём три классические задачи комбинаторики, где исходная формулировка не содержит ни малейшего намёка на случайность, но вероятностный подход даёт эталонные по чистоте доказательства.

Неравенство LYM и теорема Шпернера: геометрия случайных перестановок

Семейство подмножеств F2[n]\mathcal{F} \subseteq 2^{[n]}, где [n]={1,2,,n}[n] = \{1, 2, \dots, n\}, называется антицепью (или шпернеровым семейством), если для любых двух различных элементов A,BFA, B \in \mathcal{F} выполнено: A⊈BA \not\subseteq B и B⊈AB \not\subseteq A. Какова предельная мощность такого семейства F|\mathcal{F}|?

Центральный результат этой теории — неравенство Любелля — Ямамото — Мешалкина (неравенство LYM). Вместо того чтобы пересчитывать сами множества, Дэвид Любелль в 1966 году предложил случайным образом выбирать цепочку, проходящую через булев куб.

Рассмотрим полную цепочку подмножеств, порождённую случайной перестановкой σ=(σ1,σ2,,σn)\sigma = (\sigma_1, \sigma_2, \dots, \sigma_n) элементов [n][n]. Перестановка однозначно задаёт восходящую цепочку из n+1n+1 подмножества:

=C0C1C2Cn=[n]\emptyset = C_0 \subset C_1 \subset C_2 \subset \dots \subset C_n = [n]

где Ci={σ1,σ2,,σi}C_i = \{\sigma_1, \sigma_2, \dots, \sigma_i\} для каждого i{0,1,,n}i \in \{0, 1, \dots, n\}.

Пусть σ\sigma выбирается равномерно и случайно из всех n!n! возможных перестановок. Зафиксируем произвольное подмножество A[n]A \subseteq [n] мощности A=k|A| = k. С какой вероятностью AA оказывается одним из звеньев случайной цепи, то есть A=CkA = C_k?

Событие A=CkA = C_k означает, что первые kk элементов случайной перестановки σ\sigma состоят в точности из элементов множества AA. Число перестановок, обладающих этим свойством, равно числу способов упорядочить kk элементов внутри AA, помноженному на число способов упорядочить оставшиеся nkn - k элементов вне AA:

k!(nk)!k! \cdot (n - k)!

Следовательно, вероятность появления фиксированного множества AA мощности kk в случайной цепи равна:

P(AC)=k!(nk)!n!=1(nk)\mathbb{P}(A \in \mathcal{C}) = \frac{k! (n - k)!}{n!} = \frac{1}{\binom{n}{k}}

где через C={C0,C1,,Cn}\mathcal{C} = \{C_0, C_1, \dots, C_n\} обозначена случайная цепь, порождённая перестановкой σ\sigma. В знаменателе стоит биномиальный коэффициент (nk)\binom{n}{k}, задающий общее число подмножеств размера kk.

Теперь задействуем ключевое структурное свойство антицепи: никакие два множества A,BFA, B \in \mathcal{F} не могут содержаться друг в друге. Но все элементы случайной цепи C\mathcal{C} строго упорядочены по включению: C0C1CnC_0 \subset C_1 \subset \dots \subset C_n. Значит, случайная цепь C\mathcal{C} может содержать не более одного множества из антицепи F\mathcal{F}.

Определим индикаторную случайную величину IAI_A для каждого AFA \in \mathcal{F}:

IA={1,если AC0,если ACI_A = \begin{cases} 1, & \text{если } A \in \mathcal{C} \\ 0, & \text{если } A \notin \mathcal{C} \end{cases}

Сумма этих индикаторов X=AFIAX = \sum_{A \in \mathcal{F}} I_A считает, сколько элементов антицепи попало в случайную цепь. Поскольку антицепь и цепь могут пересекаться максимум по одному элементу, величина XX для любого элементарного исхода принимает значения только 00 или 11. Следовательно:

X1X \leq 1

Берём математическое ожидание от обеих частей неравенства и применяем линейность математического ожидания:

E[X]=E[AFIA]=AFE[IA]=AFP(AC)1\mathbb{E}[X] = \mathbb{E}\left[\sum_{A \in \mathcal{F}} I_A\right] = \sum_{A \in \mathcal{F}} \mathbb{E}[I_A] = \sum_{A \in \mathcal{F}} \mathbb{P}(A \in \mathcal{C}) \leq 1

Подставляя найденную вероятность P(AC)=1/(nA)\mathbb{P}(A \in \mathcal{C}) = 1/\binom{n}{|A|}, получаем неравенство LYM:

AF1(nA)1\sum_{A \in \mathcal{F}} \frac{1}{\binom{n}{|A|}} \leq 1

Из этого компактного неравенства мгновенно выводится теорема Шпернера (1928). Поскольку биномиальный коэффициент достигает максимума в центральном слое (nA)(nn/2)\binom{n}{|A|} \leq \binom{n}{\lfloor n/2 \rfloor}, мы можем ослабить каждый член суммы:

1AF1(nA)AF1(nn/2)=F(nn/2)1 \geq \sum_{A \in \mathcal{F}} \frac{1}{\binom{n}{|A|}} \geq \sum_{A \in \mathcal{F}} \frac{1}{\binom{n}{\lfloor n/2 \rfloor}} = \frac{|\mathcal{F}|}{\binom{n}{\lfloor n/2 \rfloor}}

Откуда немедленно следует неулучшаемая верхняя граница размера любой антицепи:

F(nn/2)|\mathcal{F}| \leq \binom{n}{\lfloor n/2 \rfloor}

Сумма-свободные множества: алгебра случайного сдвига

Перейдём от комбинаторики частичных порядков к аддитивной теории чисел. Подмножество SS элементов абелевой группы называется сумма-свободным (sum-free), если уравнение:

x+y=zx + y = z

не имеет решений в элементах x,y,zSx, y, z \in S (при этом xx и yy не обязательно различны, то есть 2x=z2x = z также запрещено).

Каков гарантированный размер сумма-свободного подмножества в произвольном множестве целых чисел? Пусть B={b1,b2,,bn}B = \{b_1, b_2, \dots, b_n\} — произвольный набор из nn ненулевых целых чисел. Пол Эрдёш в 1965 году доказал поразительный факт: в любом таком наборе всегда существует сумма-свободное подмножество ABA \subseteq B размера A>n/3|A| > n/3.

Конструктивно выделить треть элементов крайне трудно: элементы BB могут быть сложно переплетены арифметическими связями. Вероятностный метод обходит эту трудность переносом задачи в конечную циклическую группу Zp\mathbb{Z}_p.

Выберем достаточно большое простое число pp вида p=3k+2p = 3k + 2, такое что p>2maxbBbp > 2 \max_{b \in B} |b|. Такое простое число существует согласно теореме Дирихле о простых числах в арифметической прогрессии. Поскольку pp больше удвоенного максимального по модулю элемента BB, все элементы BB не равны нулю по модулю pp, а равенства между суммами в целых числах не могут "зациклиться" через модуль.

В группе Zp={0,1,,p1}\mathbb{Z}_p = \{0, 1, \dots, p-1\} существует очевидное симметричное сумма-свободное подмножество — средняя треть элементов:

C={k+1,k+2,,2k+1}C = \{k+1, k+2, \dots, 2k+1\}

Проверим, почему CC свободно от сумм. Наименьшая сумма двух элементов из CC равна (k+1)+(k+1)=2k+2(k+1) + (k+1) = 2k + 2. Наибольшая сумма двух элементов равна (2k+1)+(2k+1)=4k+2k(modp)(2k+1) + (2k+1) = 4k + 2 \equiv k \pmod p, поскольку 4k+2=p+k4k + 2 = p + k. Ни одно значение из диапазона сумм не попадает в интервал [k+1,2k+1][k+1, 2k+1]. При этом мощность множества CC равна в точности:

C=(2k+1)(k+1)+1=k+1=p+13>p3|C| = (2k + 1) - (k + 1) + 1 = k + 1 = \frac{p + 1}{3} > \frac{p}{3}

Теперь размножим это множество с помощью случайного гомотетического преобразования. Выберем элемент x{1,2,,p1}x \in \{1, 2, \dots, p-1\} равномерно случайно. Для каждого исходного числа biBb_i \in B рассмотрим его вычет:

ri(x)xbi(modp)r_i(x) \equiv x \cdot b_i \pmod p

где ri(x){0,1,,p1}r_i(x) \in \{0, 1, \dots, p-1\}.

Поскольку Zp\mathbb{Z}_p — поле, а bi≢0(modp)b_i \not\equiv 0 \pmod p, отображение xxbi(modp)x \mapsto x \cdot b_i \pmod p является биекцией на множестве ненулевых вычетов {1,,p1}\{1, \dots, p-1\}. Это означает, что при случайном выборе xx величина ri(x)r_i(x) принимает каждое из значений {1,2,,p1}\{1, 2, \dots, p-1\} с абсолютно одинаковой вероятностью 1/(p1)1/(p - 1).

С какой вероятностью вычет ri(x)r_i(x) попадает в наше заготовленное сумма-свободное множество CC?

P(ri(x)C)=Cp1=k+13k+1>13\mathbb{P}(r_i(x) \in C) = \frac{|C|}{p - 1} = \frac{k + 1}{3k + 1} > \frac{1}{3}

Определим случайное подмножество AxBA_x \subseteq B, состоящее из тех элементов bib_i, чей масштабированный вычет попал в CC:

Ax={biBxbi(modp)C}A_x = \{b_i \in B \mid x \cdot b_i \pmod p \in C\}

Любое такое подмножество AxA_x гарантированно является сумма-свободным в целых числах. Действительно, если бы для некоторых a1,a2,a3Axa_1, a_2, a_3 \in A_x выполнялось равенство a1+a2=a3a_1 + a_2 = a_3 в Z\mathbb{Z}, то, умножив его на xx, мы получили бы:

xa1+xa2xa3(modp)x a_1 + x a_2 \equiv x a_3 \pmod p

Но вычеты всех трёх чисел по построению лежат в CC, а множество CC сумма-свободно в Zp\mathbb{Z}_p. Получили противоречие.

Каков ожидаемый размер построенного множества AxA_x? Введём индикаторы Yi=I(xbi(modp)C)Y_i = \mathbb{I}(x \cdot b_i \pmod p \in C). Тогда мощность Ax=i=1nYi|A_x| = \sum_{i=1}^n Y_i. Применяя линейность математического ожидания:

E[Ax]=i=1nE[Yi]=i=1nP(xbi(modp)C)=nk+13k+1>n3\mathbb{E}[|A_x|] = \sum_{i=1}^n \mathbb{E}[Y_i] = \sum_{i=1}^n \mathbb{P}(x \cdot b_i \pmod p \in C) = n \cdot \frac{k + 1}{3k + 1} > \frac{n}{3}

Поскольку математическое ожидание строго превосходит n/3n/3, в пространстве исходов обязан существовать хотя бы один конкретный множитель x{1,,p1}x^* \in \{1, \dots, p-1\}, для которого:

AxE[Ax]>n3|A_{x^*}| \geq \mathbb{E}[|A_x|] > \frac{n}{3}

Требуемое подмножество найдено. Детерминированное построение такого подмножества потребовало бы сложного перебора, тогда как случайный сдвиг в поле вычетов мгновенно гарантирует нужную плотность.

Проблема пересекающихся семейств: синтез методов

Соединим изученные подходы на задаче об экстремальных свойствах гиперграфов. Пусть H=(V,E)H = (V, \mathcal{E}) — однородный гиперграф ранга kk (то есть каждое ребро eEe \in \mathcal{E} содержит ровно kk вершин). Семейство рёбер E\mathcal{E} называется пересекающимся, если любые два ребра имеют хотя бы одну общую вершину:

e1,e2E:e1e2\forall e_1, e_2 \in \mathcal{E}: \quad e_1 \cap e_2 \neq \emptyset

Классическая теорема Эрдёша — Ко — Радо утверждает, что при n2kn \geq 2k максимальное число рёбер в таком семействе равно (n1k1)\binom{n-1}{k-1}. Однако на практике часто возникает обратный вопрос: пусть дано семейство подмножеств, и мы хотим разбить его на минимальное число пересекающихся подсемейств, либо, напротив, найти раскраску вершин, разрушающую все монохроматические рёбра.

Вспомним свойство BB (термин Бернштейна): гиперграф обладает свойством BB, если его вершины можно раскрасить в 2 цвета так, чтобы ни одно ребро не было монохроматическим. Пусть наш kk-однородный гиперграф имеет mm рёбер. В каких условиях 2-раскраска гарантированно существует?

Сопоставим известные нам методы для этой задачи:

Метод Условие на число рёбер mm Принцип работы
Метод первого момента (Union Bound) m<2k1m < 2^{k-1} Вероятность монохроматичности ребра 2(1/2)k=21k2 \cdot (1/2)^k = 2^{1-k}. Если m21k<1m \cdot 2^{1-k} < 1, раскраска существует.
Метод удаления (Alteration) mm может быть больше 2k12^{k-1} Случайная раскраска с перекрашиванием дефектных вершин для редких монохроматических рёбер.
Локальная лемма Ловаса (LLL) e21k(d+1)1e \cdot 2^{1-k} \cdot (d + 1) \leq 1 Зависит не от общего числа mm, а от максимальной степени перекрытия рёбер dd.

Когда число рёбер mm велико, глобальный Union Bound бессилен. Но если структура пересечений локальна (каждое ребро пересекается не более чем с dd другими), локальная лемма Ловаса даёт существование правильной раскраски даже при mm \to \infty.

Стратегический выбор метода в олимпиадных и исследовательских задачах

Столкнувшись с нестандартной комбинаторной структурой, следуйте строгому алгоритму выбора инструмента:

                  [Нужно доказать существование объекта]
                                    |
                    Оценить целевую величину в среднем
                                    |
                    ---------------------------------
                   |                                 |
       [Сумма индикаторов X = \sum I_i]      [События дефектов A_1, ..., A_m]
                   |                                 |
         Линейность ожидания             Суммарная вероятность \sum P(A_i) < 1?
         (E[X] >= M => \exists \omega: X >= M)       |
                                             |-- Да -> Union Bound (Эрдёш, 1947)
                                             |-- Нет -> Можно устранить дефекты?
                                                         |
                                        -----------------------------------
                                       |                                   |
                               [Дефектов мало]                    [Дефекты локальны]
                                       |                                   |
                                Метод удаления                    Локальная лемма Ловаса
                          (инъекция + очистка)                 (граф зависимостей степени d)
  1. Если задача максимизационная или минимизационная: Сформулируйте функционал как сумму индикаторов. Линейность математического ожидания работает при любых зависимостях — это мощнейший способ найти объект, превосходящий среднее (как в неравенстве LYM и задаче о сумма-свободных подмножествах).
  2. Если задача требует полного отсутствия дефектов:
    • Если дефекты крайне редки суммарно (P(Ai)<1\sum \mathbb{P}(A_i) < 1) — используйте базовый метод первого момента.
    • Если среднее число дефектов невелико, но ненулевое, и удаление одного элемента разрушает дефект — применяйте метод удаления.
    • Если число дефектов глобально велико, но каждое событие зависит лишь от небольшого числа других (d2k1/ed \leq 2^{k-1} / e) — применяйте симметричную или асимметричную лемму Ловаса.
    • Если требуется доказать концентрацию случайной величины вокруг её среднего, либо показать, что величина обращается в ноль с исчезающей вероятностью — привлекайте метод второго момента.

Вероятностный метод превращает доказательство существования сложного дискретного объекта из утомительного геометрического конструирования в расчёт параметров случайного шума, в котором искомая структура неизбежно кристаллизуется.