Урок 7 из 8
Продакшен: наблюдаемость, стриминг и деплой
Цель урока: понимать, что нужно LangGraph-приложению, чтобы жить в реальном мире с реальными пользователями, - и уметь спросить это с Claude Code.
Наблюдаемость: видеть, что делает агент
Главная боль ИИ-продукта в проде: «агент ответил странно, а почему - неизвестно». Ответ экосистемы LangGraph - LangSmith, сервис наблюдаемости от той же команды.
- Трейсинг - «видеорегистратор» процесса: каждый запуск записан по шагам. Видно, какой узел что получил, что вернул, сколько это стоило и где случилась ошибка.
- Оценки (evals) - регулярные «контрольные работы» для агента: прогоняешь набор тестовых вопросов и следишь, не стал ли он отвечать хуже после изменений.
- Studio - визуальная студия: схема твоего графа, по которой можно запускать процесс шаг за шагом и смотреть состояние между узлами.
Выпустить агента в прод без трейсинга - как открыть кол-центр без записи звонков: жалобы будут, а разбирать нечего. LangSmith - это запись звонков, оценка операторов и тайный покупатель в одном флаконе.
Стриминг: показывать работу, а не заставлять ждать
Многошаговый процесс работает секунды и минуты. Если пользователь смотрит на пустой экран - он ушёл. Стриминг - встроенная способность графа транслировать ход работы наружу:
- токены ответа по мере генерации (как в ChatGPT);
- события «какой шаг сейчас выполняется» - чтобы показать «Ищу информацию → Готовлю ответ → Проверяю»;
- промежуточные данные состояния.
Прогресс-бар из названий узлов - дешёвый способ поднять доверие к продукту: пользователь видит осмысленную работу, а не зависший экран.
Куда деплоить
| Вариант | Что это | Кому подходит |
|---|---|---|
| Свой сервер | Обычное Python-приложение + PostgreSQL для чекпоинтов. Docker, Nginx - всё как ты привык | Тебе: полный контроль, свои серверы уже есть, расходы предсказуемы |
| LangSmith Cloud | Managed-платформа от LangChain: деплой из репозитория, масштабирование и чекпоинты из коробки | Командам без своих серверов и желания их администрировать |
Важно понимать: LangGraph - открытая и бесплатная библиотека (MIT-лицензия). Платными могут быть только сервисы вокруг: LangSmith-облако и хостинг. На своём сервере ты платишь лишь за вызовы моделей.
Для твоих проектов рабочая схема выглядит так: LangGraph-приложение в Docker на твоём сервере (Timeweb или AdminVPS), чекпоинты в PostgreSQL там же, LangSmith подключён для трейсинга (у него есть бесплатный тариф для старта). Всё это Claude Code настраивает по одной просьбе - формулировки в справочнике промптов.
Чек-лист «готов ли граф к проду»
- Чекпоинты в PostgreSQL, а не в памяти (урок 5).
- Трейсинг включён - любой странный ответ можно разобрать по шагам.
- Стриминг подключён - пользователь видит прогресс.
- В циклах стоят предохранители - лимит попыток (урок 4).
- Опасные действия (деньги, письма клиентам) - за interrupt-паузой (урок 5).
- Есть набор тестовых запросов для проверки после изменений.
Проверь себя
1. Агент в проде дал клиенту странный ответ. Что позволит быстро понять причину?
2. Зачем продукту стриминг, если результат всё равно будет тот же?
3. Сколько стоит сам LangGraph при деплое на своём сервере?
Если у тебя уже есть работающий проект с ИИ - спроси: «Проверь моё приложение по чек-листу продакшена из урока 7 курса LangGraph: что из этого у нас есть, чего не хватает?»