Разработка AI-приложений и сложных пайплайнов в Dify

Представьте ситуацию: компания решает внедрить искусственный интеллект для автоматизации технической поддержки. Выделяется бюджет в 500 000 руб., нанимается команда разработчиков, и начинается долгий процесс написания кода с нуля. Через два месяца выясняется, что языковая модель постоянно галлюцинирует, не может получить доступ к актуальным инструкциям компании, а логика диалога ломается при нестандартных вопросах пользователя. Проект затягивается, бюджет растет. Сегодня эту же задачу можно решить за пару дней силами одного специалиста, если использовать правильные инструменты визуального программирования.

Dify — это платформа с open-source кодом для разработки приложений на базе больших языковых моделей (LLM). Она объединяет визуальный интерфейс для создания сложной логики, инструменты для работы с промптами и встроенную систему управления базами знаний. Платформа берет на себя всю рутину по интеграции API различных нейросетей, позволяя создателю сфокусироваться на бизнес-логике.

Искусственный интеллект не заменит менеджеров и разработчиков, но специалисты, использующие ИИ, заменят тех, кто его игнорирует.

IBM Institute for Business Value

Архитектура платформы: от простых чатов до сложных пайплайнов

Разработка AI-приложений давно вышла за рамки простого текстового поля, куда пользователь отправляет запрос и получает ответ. Современные задачи требуют многошаговой обработки данных. В Dify предусмотрено несколько типов приложений, каждый из которых решает свой класс задач.

Тип приложения	Описание	Уровень контроля	Идеально подходит для
Базовый чат-бот	Простой диалоговый интерфейс с заданным системным промптом.	Низкий (модель сама решает, как строить ответ)	Служба поддержки первой линии, виртуальные собеседники.
ИИ-агент	Бот, наделенный инструментами (поиск в интернете, калькулятор, API сторонних сервисов).	Средний (модель автономно выбирает инструменты)	Сбор данных о конкурентах, анализ рынка, персональные ассистенты.
Пайплайн (Workflow)	Строго заданная последовательность действий (узлов), где выход одного узла является входом для другого.	Высокий (разработчик жестко задает каждый шаг)	Генерация сложных отчетов, многоэтапный перевод текстов, скоринг лидов.

Для создания предсказуемых и надежных систем корпоративного уровня чаще всего используются пайплайны (workflows). В визуальном редакторе вы соединяете блоки линиями. Например, пайплайн обработки отзыва клиента может выглядеть так: получение текста отзыва $\rightarrow$ определение тональности (позитив/негатив) $\rightarrow$ если негатив, то извлечение ключевой проблемы $\rightarrow$ генерация извинения и отправка уведомления менеджеру.

При обработке 1 000 таких отзывов вручную сотрудник потратил бы около 40 часов. Автоматизированный пайплайн с использованием модели уровня GPT-4o mini выполнит эту задачу за 5 минут, а стоимость API-запросов составит всего около 150 руб.

Интеграция базы знаний (RAG)

Как заставить нейросеть отвечать строго по регламентам вашей компании, а не выдумывать факты из интернета? Для этого используется технология Retrieval-Augmented Generation (RAG) — генерация, дополненная поиском.

Процесс работы с базой знаний в Dify состоит из нескольких этапов:

1. Загрузка документов (PDF, Word, TXT, Notion).
2. Очистка и разделение текста на небольшие фрагменты (чанки).
3. Векторизация — превращение текста в многомерные массивы чисел с помощью специальной модели встраивания (embedding model).
4. Сохранение векторов в векторную базу данных.

Когда пользователь задает вопрос, система не отправляет весь ваш 500-страничный регламент в нейросеть (это было бы слишком дорого и превысило бы лимит контекста). Вместо этого вопрос пользователя тоже превращается в вектор. Затем алгоритм ищет в базе данных фрагменты, векторы которых наиболее близки к вектору вопроса.

Для вычисления математической близости между текстами чаще всего применяется формула косинусного сходства:

$$\cos(\theta) = \frac{\mathbf{A} \cdot \mathbf{B}}{\|\mathbf{A}\| \|\mathbf{B}\|}$$

Где $\cos(\theta)$ — мера сходства (значение от -1 до 1), $\mathbf{A}$ — математический вектор пользовательского запроса, $\mathbf{B}$ — математический вектор фрагмента документа из базы знаний, $\|\mathbf{A}\|$ и $\|\mathbf{B}\|$ — длины этих векторов.

Если значение косинусного сходства близко к 1, это означает, что векторы направлены в одну сторону, и тексты максимально похожи по смыслу. Система извлекает топ-3 или топ-5 таких фрагментов и передает их языковой модели вместе с вопросом пользователя. Нейросеть читает найденные фрагменты и формулирует итоговый ответ.

Настройка рабочего окружения

Чтобы начать создавать сложные пайплайны, необходимо подготовить рабочее пространство. Dify предлагает два варианта развертывания: облачная версия (SaaS) и локальная установка на собственный сервер (Self-hosted через Docker).

Для обучения и быстрого старта оптимально использовать облачную версию, так как она не требует настройки серверов и предоставляет бесплатный лимит на использование платформы.

Регистрация и создание первого пространства

1. Перейдите на официальный сайт платформы и выберите регистрацию через электронную почту, Google или GitHub.
2. После подтверждения почты авторизуйтесь в системе.
3. Вы попадете в панель управления (Студию). Здесь отображаются все ваши будущие проекты.
4. В разделе настроек профиля (правый верхний угол) выберите провайдера моделей. Dify поддерживает OpenAI, Anthropic, Google и десятки других. Для старта платформа предоставляет бесплатные кредиты на использование базовых моделей, но для серьезных проектов потребуется ввести собственный API-ключ от выбранного провайдера (например, от OpenAI).

Получение доступа к API вашего приложения

Одной из главных особенностей Dify является то, что любой созданный вами пайплайн или бот моментально получает собственный API. Это означает, что вы можете визуально собрать сложную логику, а затем вызывать ее из своего мобильного приложения, сайта или CRM-системы.

Чтобы получить ключ для интеграции:

1. Откройте созданное приложение в Студии.
2. В левом боковом меню найдите раздел Мониторинг (или API Access в английской версии).
3. Перейдите во вкладку Ключ API.
4. Нажмите кнопку создания нового секретного ключа.
5. Скопируйте сгенерированный ключ. Платформа покажет его только один раз в целях безопасности. Если вы его потеряете, придется генерировать новый.

После получения ключа вы можете отправлять запросы к вашему приложению. Вот пример того, как выглядит стандартный запрос к опубликованному чат-боту:

curl -X POST 'https://api.dify.ai/v1/chat-messages' \
--header 'Authorization: Bearer ВАШ_СЕКРЕТНЫЙ_КЛЮЧ' \
--header 'Content-Type: application/json' \
--data-raw '{
    "inputs": {},
    "query": "Как оформить возврат товара?",
    "response_mode": "streaming",
    "conversation_id": "",
    "user": "user-123"
}'

В этом запросе параметр query содержит вопрос пользователя, а user — уникальный идентификатор клиента в вашей системе, что позволяет платформе сохранять историю диалога для каждого конкретного человека.

Настроив окружение и поняв базовые принципы работы с API и базами знаний, вы готовы к проектированию реальных бизнес-решений. Визуальный подход снижает порог входа, но требует глубокого понимания логики передачи данных между узлами.

Итоги

• Dify — это платформа для визуальной разработки AI-приложений, которая берет на себя интеграцию моделей, управление промптами и базами знаний.
• Для строгих бизнес-процессов с предсказуемым результатом лучше всего подходят пайплайны (Workflows), где каждый шаг жестко контролируется разработчиком.
• Технология RAG позволяет нейросетям отвечать на основе ваших корпоративных документов, используя векторизацию и математический поиск по смыслу.
• Любое приложение, созданное в визуальном редакторе Dify, автоматически получает готовый API для интеграции во внешние продукты.

Создание умных чат-ботов и интеграция с языковыми моделями

Представьте, что вы звоните в службу поддержки банка, потому что ваша карта заблокирована за границей. Автоответчик монотонно диктует: «Нажмите 1, чтобы узнать баланс. Нажмите 2, чтобы заблокировать карту. Нажмите 3 для связи с оператором». Вы нажимаете 3 и слушаете музыку двадцать минут. Это классический пример работы жестких алгоритмов, которые не умеют адаптироваться к ситуации клиента. В предыдущей статье мы подготовили рабочее окружение в Dify и получили ключи доступа. Теперь пришло время навсегда забыть о «кнопочных» интерфейсах и создать систему, которая понимает естественную человеческую речь.

Переход от сценарных ботов к агентам на базе генеративного искусственного интеллекта (Generative AI) меняет саму парадигму взаимодействия. Пользователю больше не нужно угадывать правильную команду — он просто описывает свою проблему своими словами.

От жестких сценариев к генеративному ИИ

Исторически чат-боты строились на основе деревьев решений. Разработчик должен был предусмотреть каждую ветку диалога. Если пользователь допускал опечатку или задавал вопрос, выходящий за рамки скрипта, бот выдавал ошибку или переводил диалог на человека.

Современные языковые модели (LLM), такие как GPT-4, Claude 3 или Llama, работают иначе. Они не ищут совпадения по ключевым словам, а предсказывают наиболее вероятное следующее слово в контексте всего предыдущего диалога. Это позволяет им поддерживать связную беседу, извлекать суть из путаных объяснений и даже проявлять эмпатию.

Характеристика	Сценарный бот (Дерево решений)	Умный бот (LLM в Dify)
Принцип работы	Поиск по ключевым словам и кнопкам	Понимание контекста и генерация текста
Время разработки	Недели (написание сотен веток диалога)	Часы (написание системного промпта)
Обработка опечаток	Ломается или требует сложных регулярных выражений	Легко понимает смысл даже с грубыми ошибками
Масштабируемость	Низкая (каждое новое правило усложняет схему)	Высокая (модель уже обладает базовыми знаниями)

Рассмотрим экономику внедрения. Допустим, интернет-магазин получает 10 000 обращений в месяц. Сценарный бот успешно закрывает только 20% типовых вопросов (2 000 обращений). Остальные 8 000 передаются операторам. При стоимости работы оператора в 150 руб. за один диалог, затраты составляют 1 200 000 руб. Умный бот на базе LLM способен решить 75% вопросов (7 500 обращений). Затраты на API нейросети составят около 15 000 руб., а оставшиеся 2 500 диалогов обойдутся в 375 000 руб. Итоговая экономия превышает 800 000 руб. ежемесячно, при этом скорость ответа для клиента сокращается с минут до секунд.

Настройка параметров языковой модели

В платформе Dify создание чат-бота начинается с выбора базовой модели. Платформа выступает в роли оркестратора: она отправляет ваши данные в API выбранного провайдера (например, OpenAI) и возвращает ответ пользователю.

Однако просто выбрать модель недостаточно. Ключевым этапом является настройка ее параметров, главным из которых выступает температура (Temperature).

Температура контролирует степень случайности и креативности в ответах нейросети. Под капотом языковая модель на каждом шаге вычисляет вероятности для тысяч возможных следующих слов. Для преобразования внутренних оценок модели в итоговые вероятности используется математическая функция Softmax с температурным масштабированием:

$$p_i = \frac{e^{z_i / T}}{\sum_{j} e^{z_j / T}}$$

Где $p_i$ — итоговая вероятность выбора конкретного слова, $z_i$ — исходная оценка (логит) этого слова от нейросети, $e$ — математическая константа (основание натурального логарифма), а $T$ — параметр температуры (значение больше нуля).

Если $T$ близко к нулю (например, $0.1$), формула экспоненциально усиливает слова с самыми высокими исходными оценками. Модель становится предсказуемой, строгой и аналитичной. Она всегда будет выбирать наиболее очевидный вариант ответа. Если $T$ велико (например, $0.9$), вероятности сглаживаются. Модель начинает выбирать менее очевидные слова, что делает текст более разнообразным, креативным, но повышает риск галлюцинаций (выдумывания фактов).

Пример из практики: для бота юридической консультации необходимо установить температуру на уровне 0.1, чтобы избежать фантазий в законах. Для бота, который генерирует рекламные посты для социальных сетей, оптимальной будет температура 0.7–0.9.

Системный промпт как ядро личности бота

Языковая модель «из коробки» — это универсальный собеседник. Чтобы превратить ее в полезный бизнес-инструмент, необходимо задать ей жесткие рамки поведения. Это делается с помощью системного промпта (System Prompt) — скрытой инструкции, которую бот читает перед каждым ответом пользователю.

В Dify системный промпт задается в разделе «Оркестрация» (Orchestrate). Хороший промпт должен состоять из четырех обязательных блоков:

1. Роль и контекст: Кто такой бот и где он работает.
2. Задача: Что именно он должен сделать.
3. Ограничения: Чего боту категорически нельзя делать.
4. Формат ответа: Как должен выглядеть итоговый текст (список, короткий абзац, таблица).

Написание промптов — это не искусство общения с машиной, это искусство ясного мышления. Нейросеть лишь отражает ту логику, которую вы в нее заложили.

Harvard Business Review

В Dify вы можете делать промпты динамическими, используя переменные. Переменные заключаются в двойные фигурные скобки. Например, если вы интегрируете бота в личный кабинет пользователя, вы можете передавать его имя и статус заказа напрямую в промпт.

Пример системного промпта в Dify: «Ты — вежливый ассистент службы поддержки магазина электроники. Твоя задача — помогать клиенту с выбором техники. Имя клиента: {{user_name}}. Текущий баланс бонусных баллов: {{bonus_points}}. Ограничения: отвечай коротко, не более 3 предложений. Никогда не упоминай конкурентов. Если клиент спрашивает о возврате товара, отправь ссылку на страницу /refund».

Если переменная {{bonus_points}} равна 500, бот автоматически учтет это в диалоге и сможет предложить клиенту списать баллы при покупке.

Управление контекстом и памятью

Одной из главных проблем при работе с API языковых моделей является то, что они не имеют собственной памяти. Каждый запрос к модели — это чистый лист. Чтобы бот мог вести связный диалог, платформа должна отправлять ему не только последнее сообщение пользователя, но и всю историю предыдущей переписки.

В Dify этот процесс автоматизирован через механизм окна контекста (Context Window). Окно контекста измеряется в токенах. Токен — это фрагмент слова. В среднем 1 токен равен 4 символам на английском языке, но для русского языка из-за особенностей кодировки одно слово может занимать от 2 до 5 токенов.

Если модель поддерживает окно контекста в 8 000 токенов, это означает, что она может «помнить» примерно 3 000 – 4 000 слов русского текста за один раз. Сюда входит системный промпт, история диалога и сам ответ модели.

Что происходит, когда диалог становится слишком длинным и превышает лимит токенов? Dify предлагает несколько стратегий управления памятью:

• Окно скольжения (Sliding Window): Платформа просто удаляет самые старые сообщения из истории, оставляя только последние $N$ сообщений.
• Суммаризация памяти (Memory Summarization): Когда контекст заполняется, Dify в фоновом режиме запускает отдельный скрытый запрос к нейросети с просьбой сделать краткую выжимку из старых сообщений. Эта короткая выжимка сохраняется и передается в новые запросы вместо простыни текста.

Допустим, клиент общается с ботом уже час, выбирая ноутбук. История диалога достигла 10 000 токенов. При включенной суммаризации Dify сожмет первые 40 минут разговора в один абзац: «Клиент ищет игровой ноутбук до 100 000 руб., предпочитает бренд ASUS, отказался от моделей с 8 ГБ оперативной памяти». Это позволяет боту не терять нить беседы и при этом экономить ваши деньги на API-запросах, так как провайдеры берут плату за каждый переданный токен.

Интеграция бота во внешние каналы

Создать умного бота в интерфейсе Dify — это только половина дела. Его необходимо доставить конечным пользователям. Платформа предоставляет несколько путей для деплоя (развертывания) вашего приложения.

Во-первых, Dify автоматически генерирует веб-интерфейс (Web App) для каждого созданного бота. Вы получаете готовую публичную ссылку, которую можно отправить клиентам или встроить на свой сайт через iframe. В настройках можно изменить цвета, логотип и приветственное сообщение, чтобы интерфейс соответствовал вашему бренду.

Во-вторых, для более сложных интеграций используется API. Как мы обсуждали в предыдущей статье, Dify предоставляет REST API для каждого приложения. Вы можете написать небольшой скрипт-коннектор, который будет принимать сообщения из Telegram, WhatsApp или вашей CRM-системы, отправлять их в API Dify и возвращать ответ нейросети обратно пользователю.

Пример логики работы коннектора для Telegram:

1. Пользователь пишет сообщение в Telegram.
2. Сервер Telegram отправляет это сообщение на ваш сервер (Webhook).
3. Ваш сервер берет текст сообщения и ID пользователя Telegram, формирует JSON-запрос и отправляет его в Dify.
4. Dify обрабатывает запрос, применяет системный промпт, подтягивает историю диалога по ID пользователя и обращается к LLM.
5. Dify возвращает готовый ответ вашему серверу.
6. Ваш сервер отправляет текст обратно в Telegram.

Такая архитектура позволяет полностью отделить логику искусственного интеллекта (которая настраивается визуально в Dify) от логики маршрутизации сообщений. Если завтра вы решите поменять OpenAI на Google Gemini или изменить характер бота, вам не придется переписывать код коннектора — достаточно будет внести изменения в визуальном редакторе Dify и нажать кнопку «Опубликовать».

Итоги

• Переход от сценарных ботов к LLM позволяет обрабатывать нестандартные запросы пользователей без необходимости прописывать тысячи веток диалога вручную.
• Параметр температуры ($T$) определяет креативность ответов: низкие значения делают бота точным и строгим, высокие — разнообразным, но склонным к фантазиям.
• Системный промпт формирует личность бота, а использование переменных в Dify позволяет персонализировать ответы на основе данных клиента.
• Dify автоматически управляет историей диалога, обходя ограничения окна контекста с помощью удаления старых сообщений или их фоновой суммаризации.
• Готового бота можно встроить на сайт через веб-интерфейс Dify или подключить к любому мессенджеру через REST API, передавая ID пользователя для сохранения контекста.

Работа с базами знаний (RAG) и пользовательскими данными

Представьте, что вы наняли блестящего выпускника университета с феноменальной памятью и идеальной речью на должность консультанта. Он знает законы физики, цитирует Шекспира и свободно говорит на десяти языках. Но когда первый же клиент спрашивает его: «Как оформить возврат товара по вашим новым правилам от 15 марта?», консультант впадает в ступор. Он блестяще образован, но абсолютно ничего не знает о внутренних процессах вашей компании.

Именно в такой ситуации оказываются разработчики, которые просто подключают языковую модель (LLM) к своему приложению. В предыдущих материалах мы разобрали, как задать нейросети роль с помощью системного промпта и настроить параметры генерации. Теперь необходимо решить главную проблему — дать искусственному интеллекту доступ к вашим корпоративным данным, чтобы он перестал угадывать и начал работать с фактами.

Иллюзия дообучения и реальность RAG

Когда бизнес сталкивается с тем, что нейросеть не знает специфики компании, первой мыслью часто становится дообучение (Fine-tuning). Кажется логичным загрузить все регламенты в модель, чтобы она выучила их наизусть. На практике этот путь ведет к колоссальным убыткам.

Дообучение модели уровня GPT-3.5 на массиве корпоративных данных может обойтись в 300 000 руб. и занять несколько недель. Но главная проблема кроется в другом: данные устаревают. Если через месяц у вас изменится процентная ставка по кредиту или обновится прайс-лист, вам придется запускать процесс дообучения заново. Кроме того, дообученная модель все равно склонна к галлюцинациям — она может смешать старые правила с новыми.

Индустриальным стандартом стала архитектура RAG (Retrieval-Augmented Generation). Вместо того чтобы заставлять модель заучивать факты, мы даем ей инструмент для поиска. Это похоже на экзамен с открытой книгой: студент (нейросеть) получает вопрос, находит нужный абзац в учебнике (базе знаний) и формулирует грамотный ответ на основе прочитанного.

База знаний в современном энтерпрайзе — это знания на кончиках пальцев, которых может не быть у ваших конкурентов, но которые должны быть у команды.

habr.com

Подготовка данных: правило чистого входа

В Dify процесс создания базы знаний начинается с загрузки документов. Платформа поддерживает форматы PDF, TXT, Markdown, а также прямую синхронизацию с Notion и веб-сайтами. Однако здесь кроется главная ловушка для начинающих разработчиков: желание загрузить в систему вообще всё.

Если вы выгрузите архив внутренней Википедии за последние 10 лет, где хранятся черновики, устаревшие инструкции и дубликаты, RAG-система неизбежно найдет неактуальный документ и выдаст его за истину. В инженерии данных это называется принципом «Мусор на входе — мусор на выходе».

Источник данных	Качество для RAG	Ожидаемый результат
Вся корпоративная Wiki без фильтрации	Низкое	Бот путает старые и новые регламенты, дает противоречивые ответы.
Переписка менеджеров в чатах	Низкое	Бот перенимает сленг, опирается на частные мнения, а не на правила.
Выверенный FAQ и актуальные PDF-инструкции	Высокое	Точные, предсказуемые ответы со ссылками на конкретные пункты правил.
Структурированные таблицы с характеристиками товаров	Очень высокое	Идеальное сравнение продуктов, отсутствие выдуманных функций.

Для успешного внедрения необходимо провести аудит данных. Оставьте только те документы, которые содержат консистентную и актуальную информацию. Лучше иметь базу из 50 выверенных регламентов, чем из 5 000 случайных файлов.

Анатомия базы знаний: чанкинг и векторизация

Загруженный документ не отправляется в базу данных целиком. Языковые модели имеют ограничение на объем входящего текста (окно контекста), а поиск по огромным полотнам текста работает неэффективно. Поэтому Dify автоматически разбивает ваши документы на небольшие фрагменты — чанки (chunks).

В настройках базы знаний Dify вы встретите два критически важных параметра:

1. Размер чанка (Chunk size): количество токенов в одном фрагменте. Оптимальное значение для текстовых инструкций составляет от 500 до 800 токенов.
2. Пересечение (Overlap): количество токенов, которые дублируются на стыке соседних чанков.

Зачем нужно пересечение? Представьте, что предложение «Для оформления возврата необходимо заполнить форму 2-НДФЛ» попало на границу разреза. В первый чанк уйдет «Для оформления возврата необходимо», а во второй — «заполнить форму 2-НДФЛ». Смысл потерян. Пересечение в 10-15% гарантирует, что контекст не разорвется.

Если текст состоит из 2 000 токенов, размер чанка установлен на 1 000, а пересечение на 200, система создаст три фрагмента: первый (токены 1–1000), второй (токены 800–1800) и третий (токены 1600–2000).

После нарезки каждый чанк проходит процесс векторизации — превращения текста в числовой массив. Эти массивы сохраняются в специализированную векторную базу данных, готовую к мгновенному поиску.

Гибридный поиск: когда математика встречается с лингвистикой

Когда пользователь задает вопрос, система должна извлечь из базы знаний наиболее подходящие чанки. Ранее мы упоминали косинусное сходство, которое отлично справляется с поиском по смыслу. Если пользователь ищет «как вернуть деньги», векторный поиск легко найдет документ с заголовком «Процедура компенсации средств», даже если слова не совпадают.

Но векторный поиск пасует перед точными совпадениями. Если клиент спрашивает: «Что означает ошибка ERR-404-B?», векторная модель может посчитать этот запрос семантически близким к «ошибка ERR-500-C» и выдать неверную инструкцию.

Для решения этой проблемы в Dify встроен гибридный поиск (Hybrid Search). Он параллельно запускает два алгоритма:

• Векторный поиск (поиск по смыслу).
• Полнотекстовый поиск по ключевым словам (алгоритм BM25, который ищет точные совпадения символов).

Затем результаты объединяются и ранжируются заново. Для вычисления итогового балла релевантности каждого найденного фрагмента применяется взвешенная формула:

$$S_{hybrid} = \\alpha \\cdot S_{vector} + (1 - \\alpha) \\cdot S_{keyword}$$

Где $S_{hybrid}$ — итоговая оценка релевантности фрагмента, $\\alpha$ — коэффициент веса (значение от 0 до 1, задаваемое разработчиком), $S_{vector}$ — оценка смыслового сходства от векторной базы, а $S_{keyword}$ — оценка точного совпадения слов от алгоритма полнотекстового поиска.

Если установить $\\alpha = 0.5$, система будет в равной степени учитывать и смысл, и точные ключевые слова. При $\\alpha = 0.7$ приоритет отдается смыслу, что полезно для баз знаний с общими статьями по психологии или менеджменту. При $\\alpha = 0.3$ приоритет смещается к точным совпадениям, что критически важно для технической документации с артикулами и кодами ошибок.

Настройка извлечения (Top-K и Score Threshold)

После того как гибридный поиск отсортировал все фрагменты базы знаний, Dify должен решить, сколько из них отправить в языковую модель. За это отвечают два параметра:

• Top-K: максимальное количество фрагментов, которые будут переданы нейросети. Обычно устанавливают значение от 3 до 5. Если передать слишком много (например, 20), модель может запутаться в обилии информации, а стоимость API-запроса резко возрастет.
• Порог релевантности (Score Threshold): минимальный балл $S_{hybrid}$, при котором фрагмент считается подходящим. Если установить порог на уровне 0.7, система будет отбрасывать все чанки с баллом ниже этого значения.

Если пользователь задаст вопрос, на который в базе нет ответа (например, спросит рецепт пирога у банковского бота), все найденные фрагменты получат низкий балл (около 0.2). Благодаря порогу релевантности система не передаст этот мусор в нейросеть, и бот честно ответит: «В моей базе знаний нет информации по этому вопросу».

Интеграция пользовательских данных и метаданных

База знаний не существует в вакууме. В реальных бизнес-приложениях права доступа к информации строго разграничены. Рядовой сотрудник службы поддержки не должен получать ответы на основе регламентов для топ-менеджмента, даже если они лежат в одной базе.

В Dify эта задача решается через фильтрацию по метаданным. При загрузке документов вы можете присваивать им теги (метаданные), например: department: sales, role: manager, region: EU.

Когда вы настраиваете пайплайн, вы можете передавать данные конкретного пользователя в качестве переменных. Если в систему обращается клиент из Европы, ваше приложение передает в Dify переменную user_region = EU. Перед тем как запустить векторный поиск, система отфильтрует базу данных и будет искать ответ только среди тех документов, у которых метаданные совпадают с регионом пользователя.

Это называется предварительной фильтрацией (Pre-filtering). Она не только обеспечивает безопасность данных, но и значительно ускоряет поиск, так как алгоритму приходится обрабатывать меньший массив векторов.

Итоги

• Дообучение языковых моделей (Fine-tuning) не подходит для добавления изменяемых фактов. Для работы с корпоративными знаниями используется архитектура RAG, которая ищет информацию и передает ее модели в момент запроса.
• Качество ответов бота напрямую зависит от чистоты загруженных данных. Загрузка устаревших или противоречивых документов приведет к ошибкам.
• Разбиение текста на чанки с небольшим пересечением (Overlap) позволяет сохранить контекст на стыке фрагментов и эффективно искать информацию.
• Гибридный поиск объединяет смысловой векторный поиск и точный поиск по ключевым словам, что позволяет находить как общие концепции, так и конкретные артикулы или коды ошибок.
• Фильтрация базы знаний по метаданным пользователя обеспечивает безопасность и позволяет выдавать персонализированные ответы на основе статуса или роли клиента.

Проектирование сложных пайплайнов (Workflows) в визуальном редакторе

Представьте конвейер на автомобильном заводе. Кузов движется по ленте: на первой станции робот устанавливает двери, на второй — двигатель, на третьей происходит покраска. Если на этапе установки дверей произойдет сбой, кузов не поедет дальше. Каждый шаг строго регламентирован, предсказуем и зависит от результата предыдущего. В предыдущих статьях мы научились создавать умных чат-ботов и подключать к ним корпоративные базы знаний (RAG). Чат-бот — это отличный собеседник, но когда бизнесу требуется строгий «заводской конвейер» для обработки данных, диалоговые интерфейсы пасуют. Для таких задач используются пайплайны.

Пайплайн (Workflow) — это строго заданная последовательность автоматизированных действий, где информация передается от одного шага к другому по заранее написанному сценарию. В Dify пайплайны создаются в визуальном редакторе, что позволяет инженерам и аналитикам проектировать сложную логику без написания тысяч строк кода.

Первое правило любой технологии заключается в том, что автоматизация эффективной операции повысит ее эффективность. Второе правило: автоматизация неэффективной операции увеличит ее неэффективность.

Билл Гейтс

Анатомия пайплайна: узлы и связи

Как объяснить сложный бизнес-процесс машине? В визуальном программировании любой процесс разбивается на атомарные блоки. В Dify эти блоки называются узлами (Nodes). Каждый узел выполняет только одну конкретную задачу: принимает данные, как-то их преобразует и отдает дальше.

Чтобы данные могли перемещаться, узлы соединяются связями (Edges). Связь — это линия на визуальном холсте, которая указывает направление потока информации.

Рассмотрим пример: вам нужно анализировать входящие резюме кандидатов. Если поручить это базовому чат-боту, он может упустить важные детали или начать задавать встречные вопросы. В пайплайне этот процесс выглядит как четкая схема:

1. Узел старта получает текст резюме.
2. Узел языковой модели извлекает из текста только навыки и опыт работы.
3. Узел HTTP-запроса отправляет эти структурированные данные в вашу CRM-систему.

При ручной обработке 500 резюме HR-специалист потратит около 40 часов рабочего времени. Пайплайн обработает этот объем за 10 минут, а стоимость запросов к API составит примерно 200 руб. Вы получаете 100% предсказуемый результат, так как модель ограничена рамками своего узла и не может отклониться от маршрута.

Ключевые типы узлов в арсенале разработчика

Платформа предоставляет десятки различных узлов. Умение комбинировать их — главный навык при разработке AI-приложений.

Тип узла	Назначение	Пример использования
Начало / Конец (Start / End)	Обозначают точки входа и выхода данных. Обязательны для любого пайплайна.	Прием ID пользователя и текста запроса; выдача итогового ответа.
LLM	Отправляет данные в языковую модель с заданным системным промптом.	Перевод текста, суммаризация, извлечение фактов.
Извлечение знаний (Knowledge Retrieval)	Выполняет поиск по векторной базе данных (RAG).	Поиск нужного пункта в регламенте компании.
Условие (If/Else)	Разделяет поток данных на две ветки в зависимости от логического правила.	Если сумма заказа больше 10 000 руб., отправить уведомление VIP-менеджеру.
Блок кода (Code)	Позволяет написать небольшой скрипт на Python или JavaScript для трансформации данных.	Очистка текста от HTML-тегов, сложные математические расчеты.

Переход от чат-ботов к пайплайнам требует изменения мышления. Вы больше не надеетесь на то, что нейросеть «сама поймет», что делать. Вы берете на себя роль архитектора, который выстраивает жесткий каркас, а нейросети используете только как взаимозаменяемые шестеренки внутри этого механизма.

Маршрутизация и классификация намерений

Один из самых мощных узлов в Dify — это Классификатор вопросов (Question Classifier). В реальном бизнесе пользователи часто пишут в одно окно поддержки с совершенно разными проблемами: один хочет узнать статус доставки, другой жалуется на брак, третий просит позвать оператора.

Классификатор использует языковую модель для анализа входящего сообщения и определения его категории. Под капотом модель оценивает вероятность принадлежности текста к каждому из заданных классов. Для принятия решения о маршрутизации используется математическое неравенство:

$$p \geq \theta$$

Где $p$ — уверенность нейросети в выбранной категории (значение от 0 до 1), а $\theta$ — заданный разработчиком порог уверенности (например, 0.85).

Если пользователь пишет: «Где моя посылка?», классификатор вычисляет, что это категория «Статус заказа» с уверенностью $p = 0.95$. Так как $0.95 \geq 0.85$, условие выполняется, и пайплайн направляет запрос по ветке, которая делает запрос к базе данных курьерской службы.

Если же пользователь пишет невнятное сообщение, и уверенность модели составляет всего $p = 0.40$, система направит запрос по резервной ветке — напрямую к живому оператору, избегая выдачи некорректного ответа.

Управление потоком данных и переменные

Чтобы узлы могли общаться между собой, в Dify используется система переменных. Когда узел завершает свою работу, он генерирует выходные данные (Output variables). Следующий узел может использовать эти данные как свои входные переменные (Input variables).

В визуальном редакторе переменные вызываются с помощью специального синтаксиса, похожего на шаблонизатор. Вы указываете имя узла и название переменной.

{
  "customer_intent": "{{QuestionClassifier.category}}",
  "extracted_entities": "{{LLM_Extractor.text}}",
  "confidence_score": 0.92
}

В этом примере мы формируем JSON-объект для отправки на сторонний сервер. Вместо жестко заданного текста мы подставляем переменные {{QuestionClassifier.category}} и {{LLM_Extractor.text}}. В момент выполнения пайплайна платформа автоматически заменит эти плейсхолдеры на реальные данные, которые были получены на предыдущих шагах.

Такой подход гарантирует строгую типизацию. Если узел извлечения знаний не нашел документов, он передаст пустую переменную, и вы сможете обработать эту ситуацию с помощью узла условия (If/Else), предотвратив поломку всего процесса.

Итерации: массовая обработка массивов

Часто возникает задача обработать не один элемент, а целый список. Например, пользователь загружает текстовый файл, в котором содержится 10 ссылок на сайты конкурентов, и просит составить краткую выжимку по каждому сайту.

Если отправить все 10 ссылок в языковую модель одновременно, она может запутаться, смешать информацию или превысить лимит выходных токенов. Для решения этой проблемы применяется узел Итерации (Iteration), который работает как цикл for в классическом программировании.

Процесс настройки итерации:

1. На вход узла подается массив данных (например, список из 10 ссылок).
2. Внутри узла итерации выстраивается мини-пайплайн (например, узел парсинга веб-страницы $\rightarrow$ узел LLM для суммаризации текста).
3. Dify берет первую ссылку, прогоняет ее через мини-пайплайн, сохраняет результат.
4. Затем берет вторую ссылку, и так до конца списка.
5. На выходе узел итерации отдает новый массив, состоящий из 10 готовых суммаризаций.

Использование итераций позволяет масштабировать обработку данных. Обработка списка из 50 элементов займет больше времени, но качество результата для каждого отдельного элемента останется стабильно высоким, так как нейросеть фокусируется только на одной задаче за раз.

Интеграция RAG в пайплайны

В прошлой статье мы подробно разбирали технологию RAG (генерация, дополненная поиском). В контексте пайплайнов RAG превращается из самостоятельного приложения в один из узлов — Knowledge Retrieval.

Это открывает колоссальные возможности для создания сложных аналитических систем. Представьте пайплайн для службы безопасности банка:

1. Узел старта принимает транзакцию.
2. Узел RAG ищет в базе знаний правила комплаенса, актуальные для страны отправителя.
3. Узел HTTP запрашивает историю операций клиента из внешней базы.
4. Узел LLM анализирует транзакцию, правила комплаенса и историю, вынося вердикт: пропустить или заблокировать.

В такой архитектуре языковая модель не просто болтает с пользователем. Она выступает в роли аналитического ядра, которое получает проверенные факты из базы знаний и структурированные данные из API, а затем принимает взвешенное бизнес-решение.

Итоги

• Пайплайны (Workflows) предназначены для создания строгих, многошаговых и предсказуемых процессов, в отличие от свободных диалоговых чат-ботов.
• Визуальная архитектура строится на узлах (выполняют задачи) и связях (определяют направление движения данных).
• Узел классификатора вопросов позволяет маршрутизировать запросы пользователей по разным веткам логики, опираясь на математическую уверенность нейросети.
• Узел итерации решает проблему массовой обработки данных, прогоняя каждый элемент списка через изолированный мини-пайплайн.
• Внедрение RAG и HTTP-запросов внутрь пайплайна превращает языковую модель из простого собеседника в мощный аналитический инструмент для бизнеса.

Интеграция, API и деплой готовых AI-ассистентов

Представьте ситуацию: вы потратили неделю на проектирование идеального пайплайна. Он блестяще анализирует юридические договоры, использует базу знаний (RAG) для проверки соответствия внутренним регламентам компании и формирует подробный отчет об ошибках. Но есть проблема. Чтобы воспользоваться этим инструментом, юристам нужно заходить в панель управления Dify, искать нужный проект и вручную вставлять текст в тестовое окно. Скорее всего, через пару дней они вернутся к привычной ручной проверке в текстовом редакторе.

В предыдущих материалах мы научились создавать умных ботов, подключать корпоративные данные и выстраивать строгую логику через визуальные узлы. Теперь пришло время вывести эти решения из лабораторной среды в реальный мир. Искусственный интеллект приносит пользу бизнесу только тогда, когда он бесшовно встроен в те инструменты, которыми сотрудники и клиенты уже пользуются каждый день: мессенджеры, CRM-системы, корпоративные порталы и мобильные приложения.

От песочницы к реальному продукту: стратегии развертывания

Платформа Dify изначально проектировалась не просто как конструктор, а как полноценный Backend-as-a-Service (бэкенд как услуга) для AI-приложений. Это означает, что как только вы нажимаете кнопку публикации в визуальном редакторе, система автоматически подготавливает инфраструктуру для доставки вашего продукта конечным пользователям.

Существует три основных подхода к деплою (развертыванию) готовых решений, каждый из которых требует разного уровня технической подготовки.

Метод интеграции	Уровень сложности	Описание	Идеально подходит для
Встроенное веб-приложение	Нулевой	Dify генерирует готовую публичную ссылку с интерфейсом чата или формы. Вы можете настроить цвета и логотип.	Внутренних инструментов компании, быстрого тестирования гипотез на реальных пользователях.
Виджет для сайта	Низкий	Платформа выдает короткий скрипт на языке JavaScript, который вставляется в код вашего сайта.	Службы поддержки интернет-магазинов, лендингов, сбора лидов.
REST API	Высокий	Прямое взаимодействие с ядром Dify через HTTP-запросы. Требует написания собственного кода (коннектора).	Интеграции с Telegram, WhatsApp, сложными CRM-системами (Bitrix24, AmoCRM), мобильными приложениями.

Для серьезных корпоративных задач чаще всего используется именно интеграция через API, так как она дает абсолютный контроль над пользовательским опытом и позволяет скрыть от клиента сам факт использования сторонней платформы.

Архитектура REST API: ключи доступа и эндпоинты

Чтобы внешняя система (например, ваш сервер) могла общаться с Dify, ей нужен уникальный пропуск — API-ключ (API Key). Этот ключ генерируется индивидуально для каждого созданного вами приложения (бота или пайплайна).

Процесс получения ключа строг и направлен на обеспечение безопасности:

1. В панели управления вашего приложения необходимо перейти в раздел мониторинга и доступа к API.
2. При генерации нового секретного ключа система покажет его только один раз.
3. Если ключ утерян, восстановить его невозможно — придется генерировать новый и обновлять его во всех ваших интеграциях.

Взаимодействие с платформой происходит через эндпоинты (endpoints) — специальные URL-адреса, которые принимают запросы. Для отправки сообщения чат-боту используется метод POST.

Пример классического запроса к опубликованному приложению:

curl -X POST 'https://api.dify.ai/v1/chat-messages' \
--header 'Authorization: Bearer ВАШ_СЕКРЕТНЫЙ_КЛЮЧ' \
--header 'Content-Type: application/json' \
--data-raw '{
    "inputs": {},
    "query": "Проверь статус моего заказа",
    "response_mode": "blocking",
    "conversation_id": "",
    "user": "telegram-id-847593"
}'

В этом запросе сервер передает авторизационный токен, текст вопроса пользователя и несколько критически важных служебных параметров, которые управляют поведением искусственного интеллекта.

Управление состоянием: как API помнит пользователя

По своей природе протокол HTTP не имеет состояния (stateless). Это значит, что каждый новый запрос сервер воспринимает как совершенно независимое событие. Если вы просто отправите два запроса подряд, языковая модель не поймет, что они связаны.

В Dify проблема сохранения контекста решается с помощью связки параметров user и conversation_id.

Параметр user — это уникальный идентификатор клиента в вашей внешней системе. Если вы интегрируете бота в Telegram, в это поле необходимо передавать уникальный числовой ID пользователя из мессенджера. Если интеграция идет с CRM-системой, передается ID карточки клиента.

Когда Dify получает первый запрос с новым user, платформа создает новую сессию диалога и возвращает в ответе сгенерированный conversation_id. Чтобы бот «вспомнил» предыдущую переписку при следующем вопросе, ваш сервер должен передать этот conversation_id обратно в Dify.

Рассмотрим архитектуру интеграции с мессенджером на конкретном примере. Допустим, вы получаете 5 000 сообщений в день.

• Клиент пишет в Telegram: «Сколько стоит доставка?».
• Сервер Telegram пересылает текст и ID клиента на ваш сервер-посредник (коннектор).
• Ваш сервер проверяет свою базу данных. Если для этого ID клиента еще нет активной сессии, он отправляет запрос в Dify с пустым conversation_id.
• Dify обрабатывает запрос, обращается к базе знаний, формирует ответ и возвращает его вашему серверу вместе с новым ID диалога (например, conv-123).
• Ваш сервер сохраняет связку «ID клиента в Telegram = conv-123» в свою базу данных и отправляет текстовый ответ клиенту.
• Когда клиент пишет второе сообщение: «А в Самару?», ваш сервер находит сохраненный conv-123 и передает его в Dify. Благодаря этому нейросеть понимает, что речь все еще идет о стоимости доставки.

API — это цифровой клей, который скрепляет разрозненные системы в единый, непрерывно работающий бизнес-механизм.

Harvard Business Review

Асинхронная обработка и потоковая передача данных

При работе с базовыми чат-ботами ответ генерируется за 1–2 секунды. В таких случаях можно использовать блокирующий режим (response_mode: "blocking"). Ваш сервер отправляет запрос, ждет пару секунд, получает полный текст ответа и передает его пользователю.

Однако сложные пайплайны (Workflows), включающие поиск по огромным базам RAG, запуск Python-скриптов и множественные обращения к LLM, могут выполняться 30, 60 или даже 120 секунд. Стандартное HTTP-соединение обычно обрывается по тайм-ауту через 30 секунд, что приведет к ошибке, даже если Dify успешно завершит задачу на своей стороне.

Для решения этой проблемы применяется потоковая передача данных (Streaming), основанная на технологии Server-Sent Events (SSE).

Если в запросе указать response_mode: "streaming", Dify не будет ждать полного завершения пайплайна. Платформа начнет возвращать данные вашему серверу по частям, по мере их готовности. Сначала придет событие о запуске первого узла, затем результаты поиска по базе знаний, а затем нейросеть начнет отдавать итоговый текст по одному слову (токену).

Именно благодаря потоковой передаче пользователи видят эффект «печатающегося текста» в интерфейсах вроде ChatGPT. Это критически важно для удержания внимания: если клиент видит, что текст начал появляться уже через секунду, он готов подождать окончания генерации. Если же интерфейс просто зависнет на минуту, клиент закроет приложение.

Безопасность интеграции и защита бюджета

Вывод AI-приложения в публичный доступ несет в себе финансовые риски. Провайдеры языковых моделей (OpenAI, Anthropic) тарифицируют каждый обработанный токен.

Главное правило безопасности при работе с API Dify: никогда не встраивайте секретный API-ключ в клиентский код.

Если вы создаете мобильное приложение или веб-сайт и поместите ключ напрямую в код интерфейса (Frontend), любой технически грамотный пользователь сможет извлечь его за пару минут, открыв инструменты разработчика в браузере. Получив ваш ключ, злоумышленник сможет отправлять запросы к вашему приложению со своего сервера, расходуя ваш бюджет.

Пример потенциального ущерба: злоумышленник пишет скрипт, который отправляет 100 000 запросов к вашему пайплайну. Если один запуск пайплайна потребляет 5 000 токенов, общий объем составит 500 миллионов токенов. При средней стоимости 10 долл. за миллион токенов, вы потеряете 5 000 долл. за несколько часов.

Правильная архитектура всегда подразумевает наличие вашего собственного сервера-посредника (Backend).

1. Мобильное приложение пользователя отправляет запрос на ваш сервер.
2. Ваш сервер проверяет права пользователя, лимиты его тарифа и защищает систему от спама.
3. Только после успешной проверки ваш сервер подставляет секретный API-ключ Dify и отправляет запрос к нейросети.

Дополнительно в настройках самого приложения Dify рекомендуется устанавливать жесткие лимиты на количество сообщений от одного пользователя (Rate Limiting). Например, не более 20 сообщений в час. Это защитит систему от автоматизированных атак и неконтролируемого расхода средств.

Итоги

• Деплой AI-приложений в Dify возможен тремя путями: через готовое веб-приложение, встраиваемый виджет или REST API для глубокой интеграции в бизнес-процессы.
• Взаимодействие через API требует передачи уникального параметра пользователя и идентификатора диалога, чтобы обходить ограничения протокола HTTP и сохранять контекст беседы.
• Для сложных и долгих пайплайнов необходимо использовать потоковую передачу данных (Streaming), чтобы избежать обрыва соединения по тайм-ауту и улучшить пользовательский опыт.
• Секретные ключи API категорически запрещено хранить на стороне клиента (в браузере или мобильном приложении); все запросы должны маршрутизироваться через ваш защищенный сервер-посредник.