Инженер искусственного интеллекта: от математического фундамента до мультиагентных систем

Математический фундамент нейронных сетей: линейная алгебра, матанализ и градиентный спуск

Представьте, что вы стоите на вершине горы в густом тумане. Ваша задача — спуститься к подножию, где находится уютная деревня, но вы видите лишь небольшой участок земли под своими ногами. У вас нет карты, а видимость ограничена парой метров. Единственный способ достичь цели — аккуратно прощупывать почву вокруг себя и делать шаг в ту сторону, где склон уходит вниз круче всего. Этот интуитивный процесс «спуска вслепую» является точной метафорой того, как обучаются самые современные нейронные сети, от простых классификаторов до GPT-4. За этим процессом стоит строгая математическая архитектура, превращающая хаотичные данные в структурированное знание.

Многомерное пространство как холст нейросети

Когда мы говорим о нейронных сетях, мы часто представляем их как биологический мозг. Однако для инженера нейросеть — это прежде всего сложная математическая функция, преобразующая один набор чисел в другой. Чтобы понять, как это происходит, нам нужно обратиться к линейной алгебре.

В мире ИИ данные редко бывают одномерными. Фотография — это не просто картинка, а матрица пикселей, где каждый пиксель имеет три цветовых канала (RGB). Текст — это последовательность векторов в многомерном пространстве. Линейная алгебра предоставляет нам язык и инструменты для манипуляции этими объектами.

Векторы и матрицы: кирпичи архитектуры

Вектор в контексте машинного обучения — это упорядоченный список признаков объекта. Если мы описываем недвижимость, вектор может выглядеть как [площадь, количество комнат, удаленность от центра]. В нейронных сетях векторы объединяются в матрицы. Матрица весов — это, по сути, «память» нейросети. Она определяет силу связей между нейронами разных слоев.

Операция, которая происходит внутри каждого нейрона, — это скалярное произведение вектора входных данных на вектор весов :

Здесь — веса, — входные сигналы, а (bias) — смещение, позволяющее модели быть более гибкой. Если записать это в матричном виде для целого слоя нейронов, мы получим:

Где:

— матрица входных данных (размерность , где — количество примеров, — количество признаков).

— матрица весов слоя.

— вектор смещений.

— результат линейного преобразования.

Зачем нам это нужно? Линейное преобразование — это способ повернуть, растянуть или сжать пространство данных. Представьте, что ваши данные — это скомканный лист бумаги, на котором нарисованы два класса точек (например, «кошки» и «собаки»). Линейная алгебра позволяет нам расправить этот лист так, чтобы мы могли провести между точками прямую линию (гиперплоскость), разделяющую их.

Ранг матрицы и проблема сингулярности

В глубоком обучении мы часто сталкиваемся с матрицами огромных размеров. Важным понятием здесь является ранг матрицы — количество линейно независимых строк или столбцов. Если ранг матрицы меньше её размерности, мы теряем информацию. В контексте обучения моделей это может привести к «коллапсу признаков», когда нейросеть перестает различать важные нюансы данных, сводя всё многообразие в узкое подпространство.

Инженеры используют методы декомпозиции, такие как SVD (Singular Value Decomposition), чтобы сжимать модели без потери качества. Это лежит в основе техник квантования и низкоранговой адаптации (LoRA), которые позволяют запускать огромные LLM на домашних видеокартах.

Математический анализ: механика изменений

Если линейная алгебра описывает структуру нейросети, то математический анализ описывает её динамику. Обучение — это процесс изменения. Нам нужно понять, как крошечное изменение веса в глубине сети повлияет на общую ошибку модели на выходе.

Производная как компас

Производная функции показывает скорость изменения функции в данной точке. В нейронных сетях мы работаем с функциями многих переменных, поэтому используем частные производные. Градиент — это вектор, составленный из частных производных, который указывает направление наискорейшего роста функции.

Для обучения нам нужно обратное направление — направление наискорейшего убывания функции потерь (Loss Function). Функция потерь измеряет «расстояние» между предсказанием модели и реальным значением . Наша цель — найти такой набор весов , при котором минимальна.

Цепное правило (Chain Rule) и обратное распространение

Нейронная сеть — это композиция функций. Если у нас есть три слоя, то выход сети можно представить как . Чтобы найти производную ошибки по весам первого слоя, нам нужно применить цепное правило матанализа:

Этот процесс называется Backpropagation (обратное распространение ошибки). Ошибка «течет» от выхода к входу, и каждый вес получает свою долю «вины» за итоговый промах. Без цепного правила обучение глубоких сетей было бы вычислительно невозможным, так как нам пришлось бы пересчитывать каждый вес независимо, что требует экспоненциального времени.

Градиентный спуск: путь к минимуму

Градиентный спуск (Gradient Descent) — это алгоритм оптимизации, который использует градиент для обновления весов. Формула обновления весов выглядит так:

Где:

— обновленный вес.

— текущий вес.

(eta) — скорость обучения (Learning Rate).

— градиент функции потерь по отношению к весу.

Проблема выбора скорости обучения

Параметр является критическим.

Если слишком мала, обучение будет идти вечность, и модель может застрять в локальном минимуме (небольшой ямке на склоне горы, которая не является её подножием).

Если слишком велика, алгоритм будет «перепрыгивать» через минимум, и ошибка может начать расти, приводя к расходимости модели.

Современные оптимизаторы, такие как Adam или RMSProp, используют адаптивную скорость обучения. Они учитывают «инерцию» (momentum) предыдущих шагов. Если мы долго катимся в одном направлении, алгоритм ускоряется; если направление градиента начинает резко меняться, алгоритм замедляется.

Стохастический градиентный спуск (SGD) и батчи

В реальности мы не можем рассчитать градиент по всему датасету (например, по всем миллиардам страниц текста для обучения LLM) за один раз — это не влезет в память GPU. Поэтому мы используем стохастический подход: выбираем случайный поднабор данных (batch) и делаем шаг на основе градиента этого батча.

Это вносит шум в процесс обучения. Как ни странно, этот шум полезен: он помогает модели «выпрыгивать» из плохих локальных минимумов и находить более устойчивые решения, которые лучше обобщаются на новые данные.

Нелинейность: почему без неё нейросети бесполезны

Если бы мы использовали только линейные операции (матричные умножения), то сколь бы глубокой ни была наша сеть, она оставалась бы простой линейной регрессией. Композиция линейных функций всегда линейна. Чтобы нейросеть могла выучивать сложные зависимости (например, контуры лица или синтаксис языка), нам нужны функции активации.

Функция активации вносится после каждого линейного слоя:

Самые популярные функции сегодня:

ReLU (Rectified Linear Unit): . Она проста, вычислительно эффективна и помогает бороться с проблемой затухающих градиентов.

Sigmoid: . Используется реже, в основном в задачах бинарной классификации, так как её градиент близок к нулю при больших значениях , что «убивает» обучение.

GELU (Gaussian Error Linear Unit): используется в трансформерах (BERT, GPT). Это более гладкая версия ReLU, которая лучше работает в глубоких архитектурах.

Проблема затухающих и взрывных градиентов

При обучении очень глубоких сетей мы сталкиваемся с фундаментальной математической трудностью. Поскольку мы перемножаем производные (цепное правило), если эти производные меньше единицы, то к начальным слоям градиент становится бесконечно малым (). Веса первых слоев перестают обновляться — сеть «не учится».

И наоборот, если производные больше единицы, градиент растет экспоненциально, вызывая «взрыв» весов и превращая их в NaN (Not a Number).

Для решения этих проблем инженеры используют:

Инициализацию весов (например, инициализация Ксавье или Хе), которая подбирает начальные значения так, чтобы дисперсия сигналов сохранялась.

Нормализацию слоев (Batch/Layer Normalization), которая принудительно возвращает значения нейронов в разумный диапазон (обычно со средним 0 и дисперсией 1).

Skip-connections (остаточные связи), введенные в архитектуре ResNet. Они позволяют градиенту «течь» в обход слоев, сохраняя его силу.

Геометрия функции потерь: ландшафт ошибок

Представьте поверхность функции потерь как сложный ландшафт с пиками, седловыми точками и узкими каньонами. Исследования показывают, что в нейросетях с миллионами параметров локальные минимумы не так страшны, как седловые точки. Седловая точка — это место, где по одним осям функция убывает, а по другим — растет. В таких точках градиент равен нулю, и обычный градиентный спуск может там замереть.

Понимание геометрии этого пространства — ключ к созданию эффективных архитектур. Например, современные модели стремятся к «плоским» минимумам. Если минимум плоский, то небольшое изменение весов (например, при переносе модели на другие данные) не приведет к резкому скачку ошибки. Это напрямую связано с обобщающей способностью ИИ — его умением работать с тем, чего он не видел при обучении.

Практический пример: обучение одного нейрона

Разберем, как математика собирается воедино на примере задачи классификации. Допустим, мы учим нейрон отличать спам от обычных писем по двум признакам: количеству восклицательных знаков () и наличию слова «бесплатно» ().

Инициализация: Мы задаем случайные веса и смещение .

Прямой проход (Forward Pass): Приходит письмо с .

Применяем сигмоиду: . Модель на 69% уверена, что это спам.

Расчет ошибки: На самом деле это не спам (). Используем квадратичную ошибку: .

Обратный проход (Backprop): Мы считаем, как изменить , чтобы уменьшить .

После вычислений мы получаем градиент.

Обновление: Вычитаем градиент из весов. Теперь при следующем появлении такого письма модель выдаст результат ближе к 0.

Этот цикл повторяется миллионы раз для миллионов параметров. В современных LLM количество таких параметров исчисляется сотнями миллиардов, но базовый принцип остается неизменным: линейная алгебра строит структуру, матанализ находит направление изменений, а градиентный спуск осуществляет движение.

Математический фундамент — это не просто скучные формулы. Это правила игры, по которым живет искусственный интеллект. Понимая эти принципы, инженер перестает «гадать на промптах» и начинает осознанно проектировать системы, способные решать задачи любой сложности. В следующей части нашего курса мы увидим, как эти базовые операции эволюционировали в механизм внимания, ставший сердцем архитектуры трансформеров.

Архитектура Трансформеров: механизмы Self-Attention, позиционное кодирование и структура Encoder-Decoder

В 2014 году перевод предложения «The animal didn't cross the street because it was too tired» на другой язык был для нейросетей невыполнимой задачей. Рекуррентные модели (RNN), доминировавшие в то время, неизбежно «забывали» начало фразы к моменту, когда доходили до слова «it», и не могли математически связать местоимение с объектом «animal». Всё изменилось в 2017 году с выходом статьи «Attention Is All You Need», которая представила архитектуру Transformer. Она не просто улучшила перевод, а отменила необходимость в последовательной обработке данных, позволив моделям смотреть на весь текст целиком и мгновенно находить связи между любыми словами, независимо от расстояния между ними.

Проблема последовательности и крах рекуррентных сетей

До появления трансформеров стандартом обработки естественного языка (NLP) были рекуррентные нейронные сети (RNN) и их продвинутые версии — LSTM (Long Short-Term Memory). Их работа строилась на принципе конвейера: модель читала первое слово, обновляла свое скрытое состояние, затем читала второе слово, учитывая это состояние, и так далее.

У этого подхода было два фатальных недостатка:

Линейная зависимость от длины: Чтобы обработать 1000-й токен, нужно было последовательно пропустить через сеть предыдущие 999. Это делало невозможным эффективное распараллеливание вычислений на GPU.

Проблема «бутылочного горлышка»: Вся информация о предложении должна была сжиматься в фиксированный вектор скрытого состояния. Представьте, что вам нужно прочитать страницу текста и выразить всё её содержание одним числом — потеря нюансов неизбежна.

Трансформеры предложили радикальный уход от рекурсии. Вместо того чтобы передавать информацию по цепочке, они используют механизм внимания, который позволяет каждому элементу последовательности напрямую «общаться» с любым другим элементом.

Математика внимания: Scaled Dot-Product Attention

Сердце трансформера — механизм Self-Attention (самовнимание). Его задача — определить, насколько важны другие слова в предложении для понимания текущего слова. Чтобы реализовать это математически, каждый входной вектор (эмбеддинг слова) преобразуется в три различных вектора с помощью обучаемых матриц весов:

Query (Запрос) — : «Что я ищу?»

Key (Ключ) — : «Что я содержу?»

Value (Значение) — : «Какую информацию я передам, если меня выберут?»

Процесс вычисления внимания для всей последовательности сразу записывается в матричном виде:

Разберем эту формулу по шагам:

Скалярное произведение : Мы умножаем матрицу запросов на транспонированную матрицу ключей. Это дает нам оценку близости (схожести) каждого слова с каждым. Если векторы и сонаправлены, их произведение велико — значит, слова сильно связаны.

Масштабирование на : Здесь — размерность векторов ключей. Без этого деления при больших размерностях значения скалярного произведения становятся слишком велики, что приводит к попаданию функции softmax в области с очень маленькими градиентами. Это «замораживает» обучение.

Softmax: Превращает оценки схожести в вероятности (веса), сумма которых равна 1. Теперь мы точно знаем, на сколько процентов слово «it» должно сфокусироваться на слове «animal» (например, 0.8) и на слове «street» (0.1).

Умножение на : Мы суммируем векторы значений, взвешенные полученными коэффициентами. Результат — это новое представление слова, обогащенное контекстом всего предложения.

Многоголовое внимание (Multi-Head Attention)

Однократного применения внимания недостаточно. Слово может иметь несколько типов связей: грамматические, смысловые, синтаксические. Чтобы модель могла одновременно отслеживать разные аспекты, используется Multi-Head Attention.

Мы разделяем векторы на несколько «голов» (обычно 8 или 12). Каждая голова имеет свои наборы обучаемых матриц весов . Одна голова может научиться связывать подлежащее со сказуемым, вторая — местоимения с существительными, третья — определять эмоциональный окрас. Затем результаты всех голов конкатенируются (склеиваются) и прогоняются через финальную линейную трансформацию.

Позиционное кодирование: как вернуть чувство порядка

Поскольку трансформер обрабатывает все слова одновременно, он по умолчанию «симметричен». Для него предложения «Собака съела повара» и «Повар съел собаку» выглядят идентично, так как набор векторов одинаков. В RNN порядок задавался самой структурой вычислений, в трансформерах же его нужно вводить искусственно.

Для этого используется Positional Encoding — специальный вектор, который прибавляется к эмбеддингу слова. Этот вектор несет информацию о позиции токена в тексте. Инженеры Google предложили использовать функции синуса и косинуса разных частот:

Где:

— позиция слова в последовательности;

— индекс измерения в векторе эмбеддинга;

— общая размерность модели.

Почему именно тригонометрия? Такие функции позволяют модели легко вычислять относительные позиции. Для любого фиксированного смещения позиционное кодирование может быть представлено как линейная функция от . Это дает сети математическую возможность понимать, что одно слово стоит «через два шага» после другого, независимо от их абсолютного положения в тексте.

Архитектура Encoder-Decoder: разделение труда

Классический трансформер состоит из двух частей: энкодера (кодировщика) и декодера (декодировщика). Хотя современные модели часто используют только одну из этих частей (GPT — только декодер, BERT — только энкодер), их взаимодействие критически важно для понимания основ.

Энкодер (Encoder)

Энкодер принимает входную последовательность и превращает её в абстрактное математическое представление — «контекстную карту». Он состоит из стопки одинаковых слоев (обычно 6 или более). Каждый слой включает:

Multi-Head Self-Attention: Позволяет словам взаимодействовать друг с другом.

Feed-Forward Neural Network (FFN): Полносвязная сеть, которая применяется к каждой позиции независимо. Она состоит из двух линейных преобразований с активацией ReLU или GELU между ними.

Residual Connections (Остаточные связи): Результат каждого подслоя складывается с его входным значением: . Это помогает градиентам течь сквозь глубокую сеть без затухания.

Layer Normalization: Стабилизирует обучение, нормализуя активации внутри каждого слоя.

Декодер (Decoder)

Декодер генерирует выходную последовательность по одному токену за раз. Его структура сложнее, так как он должен учитывать и то, что уже сгенерировал, и то, что подготовил энкодер. В слой декодера добавляется третий компонент:

Masked Self-Attention: При генерации слова модель не должна «подглядывать» в будущее. Чтобы скрыть последующие слова, используется маска: значения в матрице внимания для будущих токенов устанавливаются в , что после softmax превращает их в 0.

Encoder-Decoder Attention: Здесь запросы приходят из декодера, а ключи и значения — из выхода энкодера. Это мост, по которому декодер «спрашивает» у энкодера: «На что мне обратить внимание в исходном тексте, чтобы правильно перевести текущее слово?».

Токенизация и финальные слои

Прежде чем попасть в недра внимания, текст проходит через этап токенизации. Современные модели не работают с буквами или целыми словами. Они используют Subword Tokenization (например, Byte Pair Encoding или WordPiece). Это позволяет разбивать редкие слова на понятные части (например, «антиутопический» → «анти», «утоп», «ический»), что решает проблему словаря ограниченного размера и незнакомых слов.

На выходе из декодера стоит финальный линейный слой и softmax. Линейный слой проецирует вектор декодера на огромный вектор размерности словаря (например, 50 000 элементов). Softmax превращает эти значения в вероятности, и мы выбираем наиболее вероятное следующее слово.

Почему это сработало? Нюансы и граничные случаи

Успех трансформеров обусловлен не только математическим изяществом, но и вычислительной эффективностью.

Параллелизм против рекурсии. В отличие от RNN, где вычисления -го шага зависят от , в трансформере все вычисляются одной гигантской матричной операцией. Это идеально ложится на архитектуру GPU, позволяя обучать модели на триллионах токенов.

Длинные контексты. Хотя внимание теоретически связывает любые токены, на практике мы ограничены «окном контекста». Вычисление матрицы внимания имеет квадратичную сложность , где — длина последовательности. Если мы увеличим текст в 10 раз, вычисления замедлятся в 100 раз. Это главная ахиллесова пята архитектуры, которую инженеры пытаются обойти с помощью разреженного внимания (Sparse Attention) или новых архитектур вроде KAN, но классический трансформер остается верен квадратичной зависимости.

Индуктивное смещение. В сверточных сетях (CNN) заложено знание о локальности (соседние пиксели связаны). В RNN заложено знание о последовательности. Трансформер же обладает минимальным «индуктивным смещением» — он почти ничего не знает о структуре данных заранее и вынужден выучивать всё с нуля. Это требует больше данных для обучения, но при достижении определенного порога позволяет модели находить такие сложные закономерности, которые недоступны более жестким архитектурам.

От перевода к универсальному интеллекту

Архитектура Encoder-Decoder была создана для машинного перевода, но её гибкость позволила ИИ выйти за пределы лингвистики.

Если оставить только энкодер, мы получим BERT — мастера понимания смысла, классификации и поиска ответов в тексте.

Если оставить только декодер, мы получим GPT — генеративную модель, способную продолжать текст, писать код и рассуждать.

Если заменить текстовые эмбеддинги на патчи (кусочки) изображений, мы получим Vision Transformer (ViT), который сегодня теснит классические сверточные сети в компьютерном зрении.

Трансформер стал «универсальным вычислителем», который одинаково эффективно обрабатывает текст, пиксели, аудиоволны и даже последовательности аминокислот в белках. Понимание механизмов и структуры слоев — это не просто изучение конкретной модели, это изучение языка, на котором говорит современный искусственный интеллект.

Эволюция больших языковых моделей: от первых GPT до современных мультимодальных систем

В 2017 году исследователи Google представили архитектуру Transformer, которая стала «двигателем внутреннего сгорания» для ИИ-революции. Однако сама по себе архитектура была лишь чертежом. Настоящий прорыв произошел, когда инженеры осознали: если масштабировать количество параметров и объем обучающих данных до немыслимых ранее пределов, у моделей начинают проявляться «эмерджентные способности» — навыки, которым их никто не обучал напрямую, от написания программного кода до логических рассуждений. Путь от первых экспериментов OpenAI с GPT-1 до современных гигантов вроде GPT-4o и Claude 3.5 — это история борьбы за эффективность, контекстное окно и способность понимать мир не только через текст, но и через образы.

Генезис GPT: путь к чистому декодеру

Первоначальная архитектура Трансформера (Vanilla Transformer) состояла из двух частей: энкодера и декодера. Энкодер сжимал входную последовательность в богатое векторное представление, а декодер разворачивал его в ответ. Этот подход идеально подходил для машинного перевода. Однако в OpenAI пошли иным путем, предложив архитектуру GPT (Generative Pre-trained Transformer), которая фактически отбросила энкодер.

GPT-1, представленная в 2018 году, была «Decoder-only» моделью. Почему это решение оказалось судьбоносным? В архитектуре только с декодером каждый токен может смотреть только на предыдущие токены (Masked Self-Attention). Это заставляет модель становиться мастером предсказания следующего слова. Математически это выражается как максимизация правдоподобия последовательности:

Где — вероятность всей последовательности, а каждая отдельная вероятность вычисляется моделью на основе накопленного контекста.

GPT-1 имела всего 117 миллионов параметров. Для сравнения, это примерно в 1500 раз меньше, чем у современных базовых моделей. Она обучалась на корпусе BookCorpus (7000 неопубликованных книг). Главным открытием стало то, что Zero-shot обучение (способность решать задачу без специфических примеров) начало проявляться уже тогда, хотя и в зачаточном состоянии. Модель могла отвечать на вопросы или классифицировать текст, просто продолжая заданную последовательность, хотя точность оставляла желать лучшего.

Эпоха масштабирования: GPT-2 и GPT-3

Если GPT-1 была доказательством концепции, то GPT-2 (2019 год) стала манифестом «гипотезы масштабирования» (Scaling Laws). Объем параметров вырос до 1.5 миллиарда. OpenAI пошла на риск, заявив, что модель «слишком опасна для выпуска» из-за способности генерировать убедительные фейковые новости.

Технически GPT-2 принесла важные изменения в архитектуру:

Layer Normalization была перенесена на вход каждого блока (Pre-norm), что сделало обучение более стабильным при глубоких стеках слоев.

Была добавлена дополнительная нормализация после последнего блока самовнимания.

Инициализация весов была модифицирована: веса остаточных слоев при инициализации уменьшались в раз, где — количество слоев.

Настоящий тектонический сдвиг случился в 2020 году с выходом GPT-3. Имея 175 миллиардов параметров, она показала, что количество переходит в качество. Модель перестала быть просто «предсказателем слов» и стала «симулятором контекста». Именно здесь мир узнал о In-context Learning (обучение в контексте). Оказалось, что если подать модели несколько примеров задачи прямо в промпте (Few-shot prompting), она схватывает паттерн «на лету», не меняя веса своих нейронных связей.

Масштаб GPT-3 потребовал инноваций в обучении. Использовался метод Model Parallelism, так как 175 миллиардов параметров (около 350 ГБ в формате FP16) не помещались в память ни одного существующего на тот момент GPU. Инженеры распределяли слои модели между разными ускорителями, превращая кластер в единый суперкомпьютер.

BERT и RoBERTa: альтернативная ветка энкодеров

Пока OpenAI развивала генеративные модели (декодеры), Google сосредоточилась на понимании смысла через BERT (Bidirectional Encoder Representations from Transformers). В отличие от GPT, BERT — это «Encoder-only» архитектура.

Главное отличие — двунаправленность. Если GPT «видит» только левый контекст, то BERT при обучении использует технику Masked Language Modeling (MLM). В предложении случайно маскируется 15% слов, и задача модели — восстановить их, глядя и на слова слева, и на слова справа.

BERT оказался невероятно эффективен для задач классификации, извлечения сущностей (NER) и поиска ответов в тексте (SQuAD), но он принципиально не умел генерировать связный текст. Это породило разделение в индустрии: BERT-подобные модели использовались как «умные эмбеддеры» для аналитики, а GPT-подобные — для чат-ботов и творчества. Со временем генеративный подход победил в массовом сегменте, так как GPT-модели при должном масштабе научились выполнять функции BERT, но не наоборот.

Инструкции и выравнивание: InstructGPT и RLHF

К 2022 году стало ясно: просто огромная модель — это «дикий» интеллект. GPT-3 могла выдать токсичный текст, начать повторяться или просто проигнорировать просьбу пользователя, увлекшись статистическим продолжением текста. Решением стала технология RLHF (Reinforcement Learning from Human Feedback) — обучение с подкреплением на основе отзывов людей.

Процесс выравнивания (Alignment) состоит из трех этапов:

SFT (Supervised Fine-Tuning): Модель дообучается на небольшом наборе данных, где люди-разметчики пишут «идеальные» ответы на запросы.

Reward Model (Модель вознаграждения): Обучается отдельная, меньшая нейросеть, которая учится предсказывать, какой ответ больше понравится человеку. Она получает на вход два варианта ответа и выбирает лучший.

PPO (Proximal Policy Optimization): Основная модель (Policy) дообучается так, чтобы максимизировать оценку от Reward Model, при этом не уходя слишком далеко от исходных весов (чтобы не потерять общие знания).

Математически это выглядит как оптимизация функции:

Здесь — оценка модели вознаграждения, а терм с (расстояние Кульбака-Лейблера) выступает в роли регуляризатора, не давая модели «сойти с ума» в погоне за высоким баллом. Именно так появилась ChatGPT, которая понимала не просто статистику слов, а намерение пользователя.

Прорыв в мультимодальность: GPT-4 и GPT-4o

Следующим барьером стала модальность данных. Человек воспринимает мир через зрение, слух и текст одновременно. Первые попытки сделать модели мультимодальными (например, LLaVA) заключались в «склеивании» визуального энкодера (вроде CLIP от OpenAI) с языковой моделью через небольшой слой-проектор.

Однако настоящая нативная мультимодальность, представленная в GPT-4V и позже в GPT-4o, работает иначе. В GPT-4o (где "o" означает "omni" — всесторонний) используется единый токенизатор для текста, аудио и изображений. Это означает, что модель не переводит картинку в текст перед анализом, а «видит» её напрямую как набор визуальных токенов.

Это позволяет достичь невероятно низкой задержки (latency) в голосовом общении. В предыдущих системах цепочка выглядела так: Audio -> (ASR) -> Text -> (LLM) -> Text -> (TTS) -> Audio В нативной мультимодальной модели цепочка сокращается до: Audio -> (LLM) -> Audio

Это сохраняет интонации, эмоции и фоновые звуки, которые раньше терялись при транскрибации в текст.

Эффективность и открытый код: Llama, Mistral и MoE

Параллельно с закрытыми гигантами развивалась экосистема Open Source. Выход модели Llama от Meta (признанной экстремистской в РФ) в 2023 году стал «моментом Linux» для ИИ. Оказалось, что модель в 7 или 13 миллиардов параметров, обученная на качественных данных (2 триллиона токенов), может конкурировать с GPT-3.5, которая в 10 раз больше.

Ключевым архитектурным новшеством последних лет стало массовое внедрение MoE (Mixture of Experts) — смеси экспертов. Вместо того чтобы прогонять каждый токен через все 100% параметров, модель (например, Mixtral 8x7B или GPT-4) активирует только небольшую часть нейронов («экспертов») для каждого конкретного слова.

Если общая модель имеет параметров, то для вычисления одного токена используется лишь параметров (где ). Это позволяет создавать модели с огромным объемом «памяти» (знаний), которые при этом работают так же быстро, как маленькие сети. Маршрутизатор (Router) решает, какому эксперту отправить токен:

Где — вес, назначенный маршрутизатором -му эксперту . Обычно выбираются топ-2 эксперта с наибольшими весами.

Проблема длинного контекста

Одной из главных битв 2024 года стала борьба за размер контекстного окна. Оригинальный Трансформер был ограничен 512 или 2048 токенами из-за квадратичной сложности внимания . Если вы увеличиваете текст в 10 раз, вычисления замедляются в 100 раз.

Инженеры внедрили несколько техник для обхода этого лимита:

RoPE (Rotary Positional Embeddings): Позволяет модели лучше экстраполировать знания на длины текстов, которые она не видела при обучении.

FlashAttention: Математическая оптимизация вычисления внимания на уровне GPU, которая не меняет результат, но радикально ускоряет процесс и экономит память за счет умного использования кеша.

GQA (Grouped-Query Attention): Компромисс между скоростью и качеством, где несколько «голов» запросов (Queries) используют одну и ту же «голову» ключей и значений (Keys/Values), что снижает нагрузку на память при генерации.

Благодаря этому современные модели (например, Gemini 1.5 Pro) могут обрабатывать до 2 миллионов токенов — это эквивалентно десяткам книг или нескольким часам видео, проанализированным за один раз.

Границы и горизонты: логика и KAN

Несмотря на успехи, современные LLM все еще страдают от «галлюцинаций» и слабости в глубоком логическом планировании. Они работают по принципу «System 1» (быстрое, интуитивное мышление по Даниэлю Канеману). Следующий шаг — внедрение аналога «System 2» (медленное, осознанное рассуждение). Модели вроде OpenAI o1 (Strawberry) используют цепочки рассуждений (Chain of Thought) и обучение с подкреплением для того, чтобы «думать перед тем, как говорить», проверяя свои промежуточные выводы.

Также на горизонте появляются альтернативы классическим MLP-слоям (многослойным перцептронам) внутри Трансформеров. Одной из самых обсуждаемых архитектур 2024 года стала KAN (Kolmogorov-Arnold Networks). В отличие от обычных нейросетей, где функции активации фиксированы (например, ReLU) и находятся в узлах, в KAN обучаемые функции активации располагаются прямо на ребрах (весах). Это обещает большую интерпретируемость и точность в научных задачах при меньшем количестве параметров.

Эволюция ИИ перешла от попыток просто «подражать тексту» к созданию универсальных интерфейсов, способных рассуждать, видеть и слышать. Мы находимся в точке, где архитектурные ограничения Трансформеров начинают преодолеваться за счет гибридных подходов и новых методов оптимизации, превращая нейросети из статистических калькуляторов в полноценных интеллектуальных агентов.